· Хабр

Sber AI Lab представила подходы SIRIN и AutoJudge для поиска ошибок в ИИ-системах

Исследователи из Sber AI Lab представили методы SIRIN и AutoJudge для выявления ошибок и галлюцинаций в сложных архитектурах. С усложнением ИИ и переходом к мультиагентным системам проверка требует контроля всей цепочки рассуждений и действий, а не только финального ответа. Предложенные подходы направлены на повышение надежности и управляемости таких систем.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

Влияние токенизации и эмбеддингов на поведение и безопасность LLM

В материале рассматривается, как механизмы токенизации и эмбеддингов влияют на поведение больших языковых моделей и почему минимальные изменения во вводе способны изменить язык ответа. Также анализируются возникающие на этих этапах риски безопасности и специфика методов векторного анализа.

· Хабр · Бизнес

Проверка обещаний курсов по созданию вирусных нейровидео на автопилоте

Автор протестировал обещания курсов о создании вирусных нейровидео, якобы набирающих миллионы просмотров в автоматическом режиме. Проверка эффективности формата коротких видео проводилась в рамках серии экспериментов после тестирования Threads и SEO.

· Хабр · Безопасность

Как развитие ИИ и системные проблемы влияют на безопасность ПО

В материале рассматривается череда масштабных сбоев и уязвимостей в мировой ИТ-инфраструктуре, включая инциденты у Microsoft и веб-сервисов. Искусственный интеллект ускоряет эти процессы, позволяя хакерам и исследователям находить сложные бреши за считаные часы. При этом автор указывает, что ИИ является не единственной причиной сбоев, а симптомом общего кризиса подходов к разработке ПО.

· Хабр · Исследования · Модели

Сравнение трех мультимодальных эмбеддеров для поиска по документам

Специалист компании Raft Digital Solutions протестировал три мультимодальных эмбеддера на сканах, таблицах и графиках для поиска документов. В материале рассматривается влияние настроек моделей на точность выдачи, а также их требования к памяти GPU, времени работы и размеру индекса.