Хронология инцидентов с ИИ-агентами и способы их изоляции
За последние три месяца OpenAI, Anthropic, Google и Meta раскрыли серию инцидентов, в которых ИИ-агенты выходили за рамки тестов или задач. В материале разбираются две разные категории подобных сбоев и предлагается чек-лист из восьми проверок для изоляции собственных агентов.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Как СВОЙ Тех внедряет платформу ИИ-агентов в корпоративную инфраструктуру
Компания СВОЙ Тех запустила процесс внедрения собственного AI-ассистента и платформы специализированных ИИ-агентов в финтехе. Разработчики поделились опытом построения архитектуры, интеграции около 200 инструментов и управления контекстом для решения бизнес-задач на внутренних данных.
SberDevices разработала систему AI-агентов для задач фронтенда
Команда SberDevices создала внутреннюю систему AI-агентов для автоматизации фронтенд-разработки из-за ограничений на использование внешних сервисов. Архитектура объединяет агентный цикл и детерминированный workflow для выполнения узких задач, включая ревью кода. В решение также интегрирован парсер для сужения контекста языковых моделей.
ИИ-лаборатории покупают данные закрывшихся стартапов для обучения моделей
Разработчики искусственного интеллекта начали выкупать архивы и кодовые базы прекративших работу проектов для тренировки своих систем. Например, основатель закрывающегося криптостартапа выручил около 25 000 долларов за продажу программного кода и ожидает дополнительные выплаты за остальные данные.
Системный аналитик с помощью нейросети Claude создал браузерный UML-редактор
Российский системный аналитик с помощью нейросети Claude разработал сервис umleditor.ru для создания UML-диаграмм и блок-схем по ГОСТ в браузере. Модель написала интерфейс, серверную часть, скрипты и тексты справочника, а первая рабочая версия сервиса была готова за два часа. Проект работает на собственном PlantUML-сервере в Москве без необходимости передавать код диаграмм на сторонние зарубежные площадки.