Positive Technologies протестировала ML-защиту против атакующего ИИ-агента
В лаборатории экспертного центра безопасности Positive Technologies провели тест, в котором RedTeam ИИ-агент имитировал действия атакующего в корпоративной сети. Агент добрался до хоста топ-менеджера через уязвимый плагин, а комплекс ML/AI-решений защиты сумел обнаружить 14 из 15 шагов атаки без использования специализированных правил под конкретные инструменты.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Adobe представила экспериментальные ИИ-инструменты для 3D и работы с персонажами
В рамках ежегодной конференции Max компания Adobe показала новые экспериментальные ИИ-функции. Разработки позволяют преобразовывать плоские изображения в интерактивные 3D-сцены, создавать ИИ-персонажей через общение с ними, а также редактировать фотографии с помощью копирования и вставки.
Эксперименты по обходу ИИ-детекторов с помощью редактирования и перевода
Автор провела исследование работы систем детекции сгенерированного текста, таких как Антиплагиат, GPTZero и Думейт, в условиях редактирования и перевода материалов. Тестирование направлено на проверку причин ложноположительных срабатываний детекторов на полностью авторских студенческих работах.
OpenAI отключит голосовые режимы в ChatGPT в пользу GPT-Live
OpenAI объявила о полном прекращении поддержки режимов Advanced Voice Mode и Standard Voice Mode в ChatGPT с 11 декабря 2026 года. Компания планирует отказаться от этих решений и сосредоточить усилия на развитии GPT-Live.
Проблемы внедрения AI-агентов в рабочие процессы компаний
Внедрение AI-агентов ускоряет выполнение и ревью задач, однако общее время релиза часто упирается в бюрократические согласования и неэффективные процессы. Кроме того, автоматизация может приводить к быстрому выпуску невостребованных функций, если бизнес не измеряет реальный эффект от внедряемых изменений.