Семь ошибок при тестировании функций на базе LLM
Высокие показатели тестов качества LLM не гарантируют отсутствие критических ошибок ассистента после релиза. Недочеты в самой системе тестирования могут создавать ложное ощущение надежности и пропускать опасные ответы. В материале рассмотрены распространенные ошибки валидации LLM-функций и методы построения достоверного eval.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Microsoft оптимизирует Windows для ноутбуков Nvidia RTX Spark
Microsoft и Nvidia представили в Сан-Франциско первую волну ноутбуков RTX Spark, ориентированных на задачи ИИ. На мероприятиях компании продемонстрировали оптимизацию операционной системы Windows для новой категории AI PC. Развитие этой платформы направлено на улучшение работы ИИ-инструментов на потребительских устройствах.
Google запустила инструмент Universal Cart в США с интеграцией в Gemini
Компания Google запустила новый инструмент для покупок Universal Cart для пользователей в США. Функция стала доступна в поиске Google Search и в приложении Gemini.
Тестирование сканеров уязвимостей для ИИ-скиллов выявило пропуск опасных инструкций
Разработчик протестировал сканеры Cisco Skill Scanner, NVIDIA SkillSpector и AgentVerus на 12 синтетических пакетах для проверки навыков ИИ. Все три инструмента пропустили инструкцию по обходу согласований через субагента, при этом отреагировав высоким уровнем тревоги на учебную цитату атаки. Результаты показывают текущие ограничения существующих сканеров безопасности для ИИ-помощников.
Дипфейки со знаменитостями продолжают распространяться в социальных сетях
В Instagram появилось фейковое изображение актрисы Мии Гот в футболке с провокационной надписью вскоре после новости о ее разводе с Шайей Лабафом. Инцидент демонстрирует проблему неконтролируемого создания поддельных материалов с участием известных людей.