· Хабр

Разработан фильтр для защиты языковых моделей от промпт-инъекций

Разработчик представил фильтр, который проверяет запросы перед их отправкой в языковую модель для предотвращения утечки конфиденциальных данных из-за промпт-инъекций. Решение обеспечивает предварительную модерацию промптов и предлагает заранее определённую статистическую гарантию работы на случайных данных.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

Как целевые функции рекомендательных систем отражают политическую философию

В публикации рассматривается связь между математическими метриками рекомендательных систем и этическими концепциями блага пользователя. Автор демонстрирует, что оптимизация CTR, времени просмотра или опросов удовлетворенности формирует разные подходы к ранжированию контента. Это показывает, что выбор целевой функции в алгоритмах является не нейтральным техническим решением, а внедрением определенной философской теории.

Nvidia прекратила поставки передовых ИИ-чипов в Китай

Nvidia остановила отправку своих передовых ИИ-чипов в Китай, несмотря на полученное в декабре прошлого года разрешение от Белого дома. Об этом шаге во вторник на финансовом отчете сообщила временный генеральный директор компании Colette Kress.

· TechCrunch · Бизнес · Железо

Nvidia уточнила условия финансовой поддержки неооблачных провайдеров

Nvidia разъяснила условия предоставления гарантий по кредитам на строительство дата-центров для неооблачных компаний. Как пояснила Colette Kress, компания несет обязательства только при наличии у провайдера независимого финансирования, а также после постройки объекта и установки оборудования Nvidia.

· Хабр · Исследования · Модели

Фреймворк CogAlign учит мультимодальные модели человеческой логике восприятия

Исследователи разработали фреймворк CogAlign для приближения логики мультимодальных моделей к человеческому мышлению. Метод основан на данных психофизического эксперимента, где суждения людей сведены к 66 смысловым измерениям. Это призвано научить нейросети выбирать ответы на тех же основаниях, что и человек.