Как ИИ-агенты меняют кибербезопасность: восемь выводов из недавних атак
Бен Лорика из Gradient Flow проанализировал инциденты безопасности с участием ИИ-агентов, включая атаку на Hugging Face. Применение агентов позволило многократно сократить время проведения атак за счет непрерывности действий и упорства при эксплуатации стандартных уязвимостей. На основе разобранных случаев сформулировано восемь практических мер защиты систем за пределами самих моделей.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Crossweft: открытый плагин для контроля изменений кода ИИ-агентами
Разработчик представила открытый плагин Crossweft для Claude Code и Codex. Инструмент проверяет взаимосвязи между файлами и не позволяет ИИ-агенту завершить задачу, пока все связанные компоненты не синхронизируются. Решение было создано для устранения несогласованности в коде, возникавшей при работе с агентами над слоями безопасности приложения.
Опыт создания агентного поиска на базе open-source моделей
Автор разработал систему агентного поиска на открытых моделях с контролем над источниками информации. Проект исследует минимальный технологический стек, необходимый агенту для точного поиска данных без генерации вымышленных ссылок.
Эксперты считают, что голосовой ИИ еще не достиг своего уровня ChatGPT
По мнению руководителей, голосовой ИИ пока не совершил прорыв, сопоставимый с успехом ChatGPT. Технология часто упускает важные детали в контекстном слое, что приводит к сбою всего пайплайна.
Прототип чат-бота для поиска ответов в учебниках по обществознанию
Разработан прототип чат-бота, который ищет ответы в текстах единых школьных учебников по обществознанию для 9 и 10 классов с указанием страниц. Система построена на базе pymupdf4llm, векторного хранилища FAISS, эмбеддингов multilingual-e5-large и языковой модели Qwen2.5-3B на видеокарте T4.