Риски безопасности RAG и защита корпоративных баз знаний от утечек
Подключение корпоративных баз знаний к RAG-системам создает риски отравления базы, обхода прав, выкачивания данных и выдумывания. Векторные хранилища не разграничивают доступ и выдают конфиденциальную информацию по смысловой близости, а фильтры промптов не закрывают эти угрозы. Эффективная защита требует контроля за тем, что попадает в индекс, что извлекается и на чем строится ответ модели.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
NVIDIA представила модели линейки Nemotron 3.5 для поиска и парсинга данных
NVIDIA выпустила модели Nemotron 3.5: Embed, Rerank и Parse. Решения предназначены для задач поиска и извлечения информации в контексте работы AI-агентов.
Европейские промышленные лидеры внедряют технологии NVIDIA в производство
Промышленные предприятия Европы используют библиотеки NVIDIA CUDA-X и Omniverse, а также открытые модели Cosmos и Nemotron для инженерных и производственных задач. Кроме того, на предприятиях внедряется система NVIDIA Factory Operations Blueprint (FOX). Это направлено на повышение производительности, ускорение инноваций и экономический рост.
NVIDIA представила OpenShell и расширила Confidential Computing для защиты ИИ-агентов
NVIDIA анонсировала референсную архитектуру OpenShell для безопасного масштабного развертывания ИИ-агентов. Технология NVIDIA Confidential Computing защищает модели и обрабатываемые ими данные на уровне инфраструктуры во время работы. Это решение позволяет разработчикам передовых моделей безопасно масштабировать системы в глобальной инфраструктуре.
Создание векторной анимации на JavaScript с помощью нейросетей
Автор протестировал генерацию рисованной векторной анимации на JavaScript и HTML с помощью моделей Claude и ChatGPT. Процесс создания минутного ролика занял около 30 минут при минимальных затратах ресурсов и лимитов моделей. Подход позволяет быстро создавать простые мультфильмы без использования тяжелых и дорогостоящих генераторов видео.