· Хабр

Positive Technologies протестировала ML-защиту против атакующего ИИ-агента

В лаборатории экспертного центра безопасности Positive Technologies провели тест, в котором RedTeam ИИ-агент имитировал действия атакующего в корпоративной сети. Агент добрался до хоста топ-менеджера через уязвимый плагин, а комплекс ML/AI-решений защиты сумел обнаружить 14 из 15 шагов атаки без использования специализированных правил под конкретные инструменты.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

Adobe представила экспериментальные ИИ-инструменты для 3D и работы с персонажами

В рамках ежегодной конференции Max компания Adobe показала новые экспериментальные ИИ-функции. Разработки позволяют преобразовывать плоские изображения в интерактивные 3D-сцены, создавать ИИ-персонажей через общение с ними, а также редактировать фотографии с помощью копирования и вставки.

Эксперименты по обходу ИИ-детекторов с помощью редактирования и перевода

Автор провела исследование работы систем детекции сгенерированного текста, таких как Антиплагиат, GPTZero и Думейт, в условиях редактирования и перевода материалов. Тестирование направлено на проверку причин ложноположительных срабатываний детекторов на полностью авторских студенческих работах.

· Хабр · Бизнес · Продукты

Проблемы внедрения AI-агентов в рабочие процессы компаний

Внедрение AI-агентов ускоряет выполнение и ревью задач, однако общее время релиза часто упирается в бюрократические согласования и неэффективные процессы. Кроме того, автоматизация может приводить к быстрому выпуску невостребованных функций, если бизнес не измеряет реальный эффект от внедряемых изменений.