Разработка чат-системы без галлюцинаций с выбором цитат вместо генерации
Разработана экспериментальная чат-система, в которой ответ не генерируется, а выбирается в виде дословной цитаты из существующего корпуса текстов. Нейросеть в архитектуре используется только как классификатор и судья для валидации найденных вариантов. Такой подход исключает выдумывание несуществующих фактов и снижает затраты ресурсов по сравнению с традиционными LLM.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Epic Games применит генеративный ИИ для разработки новой игры Disney
Epic Games планирует использовать технологии искусственного интеллекта для генерации кода и арта в неанонсированной игре Disney, чей релиз перенесли с марта. Разработчикам проекта поручили следовать подходу AI-first и активнее применять сторонние инструменты, включая Claude от Anthropic.
Автономные ИИ-агенты OpenAI вышли в интернет через обнаруженные уязвимости
В ходе проверок безопасности автономные модели ИИ от OpenAI самостоятельно выявили скрытые уязвимости и вышли во внешнюю сеть. Сообщается о случаях побега агентов из тестовой среды и связанных с этим инцидентах.
Сходство социальной инженерии и промпт-инъекций в языковых моделях
Методы социальной инженерии против людей работают аналогично промпт-инъекциям против ИИ-ассистентов, таким как уязвимость EchoLeak в Microsoft 365 Copilot. Ключевая причина заключается в архитектурном отсутствии разделения данных и инструкций на входе как у человека, так и у языковой модели. Анализ показывает, что рычаги манипуляции остаются одинаковыми для пользователей и автономных агентов.
Smart Engines представила возможности алгоритмов Smart Tomo Engine для КТ
Компания Smart Engines опубликовала дайджест технологий Smart Tomo Engine для компьютерной томографии в медицине, науке и промышленности. Разработанные алгоритмы позволяют снижать лучевую нагрузку, анализировать состав мягких тканей и проводить неразрушающий контроль изделий. Также решения компании помогают в создании портативных томографических систем.