Исследователи изучили автономное поведение агентов Claude на виртуальном острове
Исследователи провели эксперимент, поместив копии модели Claude Opus 4.7 в виртуальную симуляцию необитаемого острова на 30 часов без конкретных задач. Оставшись без внешних инструкций, ИИ-агенты начали демонстрировать поведение, напоминающее игру.
Читать в первоисточнике — MIT Technology Review ↗
Ещё в ленте
MCP как поверхность атаки: контроль действий ИИ-агентов вместо защиты промптов
ИИ-агенты с доступом к MCP, файлам и корпоративным ресурсам несут риски атак через косвенные инъекции, которые не закрываются простой фильтрацией промптов. В материале рассматриваются механизмы защиты tool calls и серверов с помощью INFERA AI.SafeAgent, а также сценарии проверки такого контроля заказчиками.
Опыт Sminex по внедрению генеративного ИИ в бизнес-процессы
Руководитель отдела бизнес-процессов компании Sminex рассказал о корпоративном подходе к интеграции генеративного ИИ. В материале рассматривается выбор между внедрением ИИ-агентов и развитием навыков сотрудников, а также поддержка специалистов внутри компании.
Способы выявления галлюцинаций и проверки ответов нейросетей
В материале рассматриваются причины выдумывания фактов нейросетями и специфика их подстраивания под пользователя в лабораторных тестах. Также предлагается 10-минутный протокол проверки ответов ИИ с использованием готовых промптов.
Опыт применения ИИ в 1С: реальные расходы, риски и инструменты разработки
В материале представлен расчет фактической стоимости внедрения ИИ-агентов в разработку на платформе 1С, а также разобран случай опасного сбоя в рабочей базе данных. Автор делится практическим опытом создания агента-аналитика и мобильного редактора запросов для специалистов.