Разработан фильтр для защиты языковых моделей от промпт-инъекций
Разработчик представил фильтр, который проверяет запросы перед их отправкой в языковую модель для предотвращения утечки конфиденциальных данных из-за промпт-инъекций. Решение обеспечивает предварительную модерацию промптов и предлагает заранее определённую статистическую гарантию работы на случайных данных.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Как целевые функции рекомендательных систем отражают политическую философию
В публикации рассматривается связь между математическими метриками рекомендательных систем и этическими концепциями блага пользователя. Автор демонстрирует, что оптимизация CTR, времени просмотра или опросов удовлетворенности формирует разные подходы к ранжированию контента. Это показывает, что выбор целевой функции в алгоритмах является не нейтральным техническим решением, а внедрением определенной философской теории.
Nvidia прекратила поставки передовых ИИ-чипов в Китай
Nvidia остановила отправку своих передовых ИИ-чипов в Китай, несмотря на полученное в декабре прошлого года разрешение от Белого дома. Об этом шаге во вторник на финансовом отчете сообщила временный генеральный директор компании Colette Kress.
Nvidia уточнила условия финансовой поддержки неооблачных провайдеров
Nvidia разъяснила условия предоставления гарантий по кредитам на строительство дата-центров для неооблачных компаний. Как пояснила Colette Kress, компания несет обязательства только при наличии у провайдера независимого финансирования, а также после постройки объекта и установки оборудования Nvidia.
Фреймворк CogAlign учит мультимодальные модели человеческой логике восприятия
Исследователи разработали фреймворк CogAlign для приближения логики мультимодальных моделей к человеческому мышлению. Метод основан на данных психофизического эксперимента, где суждения людей сведены к 66 смысловым измерениям. Это призвано научить нейросети выбирать ответы на тех же основаниях, что и человек.