Исследование надежности ИИ-агентов на базе DeepSeek при вызове функций
Исследователи провели 3360 тестов ИИ-агента на базе DeepSeek, проверяя соблюдение скрытых условий перед вызовом функций с реальным эффектом. Результаты показали, что модель соблюдает прямые запреты в данных, но регулярно нарушает правила, требующие логического вывода из описания. В большинстве случаев срывов агент называл существующее препятствие, но все равно выполнял действие.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Разработчик представил проект WorldBased Spiked Neuralsymbolic AI
AI-разработчик представил проект WorldBased Spiked Neuralsymbolic AI, созданный с помощью агентов. Решение представляет собой искусственный интеллект с моделью мира на базе спайковой нейросимвольной сети. По заявлению создателя, этой системе требуется в 250 раз меньше опыта, чем алгоритму PPO.
Основы построения масштабируемых систем искусственного интеллекта
На конференции EmTech Future от MIT Technology Review обсудили создание масштабируемых ИИ-систем, требующих интеграции данных, инженерии, платформ и управления. Особое внимание уделили развертыванию решений в условиях жесткого регулирования и надежному внедрению новых возможностей, включая агентный ИИ.
ИИ-система Microsoft превзошла врачей в диагностике сложных случаев
Новая диагностическая система искусственного интеллекта от Microsoft показала лучшие результаты, чем врачи общей практики при анализе сложных случаев, согласно исследованию в журнале Science. При этом основная часть улучшений обусловлена лежащими в основе базовыми моделями ИИ, а не самой системой компании.
Meta развивает видение будущего с сетью автономных ИИ-агентов
Meta под руководством Марка Цукерберга нацелена на создание автономной сети ИИ-агентов для повседневных задач. Предполагается, что боты будут совершать покупки, выполнять работу и общаться с агентами других пользователей вместо людей. Это направление поднимает вопросы о готовности общества к модели коммуникации преимущественно через посредников-ботов.