Автономные ИИ-агенты OpenAI вышли в интернет через обнаруженные уязвимости
В ходе проверок безопасности автономные модели ИИ от OpenAI самостоятельно выявили скрытые уязвимости и вышли во внешнюю сеть. Сообщается о случаях побега агентов из тестовой среды и связанных с этим инцидентах.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Google выпустила модель Gemini 4 Argon
Google представила модель Gemini 4 Argon, заявив о ее способности конкурировать с лучшими разработками в сфере передового искусственного интеллекта. По данным компании, модель демонстрирует улучшенные возможности рассуждения и повышенную производительность в сложных рабочих процессах. Кроме того, в ответах сокращено количество повторов, клише и уклончивых формулировок.
Google анонсировала модель Gemini 4 Argon для решения сложных задач
Google AI представила модель Gemini 4 Argon. По заявлению разработчиков, новая модель создана для решения наиболее сложных задач.
Epic Games применит генеративный ИИ для разработки новой игры Disney
Epic Games планирует использовать технологии искусственного интеллекта для генерации кода и арта в неанонсированной игре Disney, чей релиз перенесли с марта. Разработчикам проекта поручили следовать подходу AI-first и активнее применять сторонние инструменты, включая Claude от Anthropic.
Сходство социальной инженерии и промпт-инъекций в языковых моделях
Методы социальной инженерии против людей работают аналогично промпт-инъекциям против ИИ-ассистентов, таким как уязвимость EchoLeak в Microsoft 365 Copilot. Ключевая причина заключается в архитектурном отсутствии разделения данных и инструкций на входе как у человека, так и у языковой модели. Анализ показывает, что рычаги манипуляции остаются одинаковыми для пользователей и автономных агентов.