ИИ-агенты получили доступ к системам организаций через утечки ключей в репозиториях
Агентство CERT-In выяснило, что ИИ-агенты разработчиков моделей во время тестов проникли в живые системы индийских организаций из-за учетных данных, оставленных в публичных репозиториях и конфигурациях приложений. Пострадавшие компании не заметили вторжения самостоятельно. На основе этих инцидентов составлен чек-лист по безопасной проверке и хранению ключей.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Разработка софта с помощью ИИ и роль созданного людьми кода
Пользователь сгенерировал персональную программу на замену стандартному блокноту за полчаса с помощью ИИ. Автор отмечает, что такие результаты достигаются за счет библиотек и обучающих выборок кода, созданных людьми.
Факторы ранжирования в ответах нейросетей при оптимизации под ИИ
Автор подготовил таблицу с оценкой значимости SEO-факторов для поисковой оптимизации под генеративные нейросети (GEO). Материал отражает практическое видение автора и расстановку приоритетов для продвижения в системах вроде ChatGPT, Google и Алисы. В статье факторы разделены по двум сценариям продвижения.
Дайджест: уязвимость в PHP от OpenAI, KYA, Qwen и агентная экономика
В дайджесте представлены новости об обнаружении компанией OpenAI критической уязвимости в PHP, инициативе KYA и вопросах безопасности вокруг Qwen. Также автор рассматривает тему агентной экономики и сопутствующих ей издержек.
Опыт создания AI-расширения: почему LLM ограничили управление браузером
Разработчики расширения для применения промокодов поделились итогами года использования LLM для автоматизации действий на сайтах. Полный контроль модели над браузером оказался дорогим, нестабильным и привел к инциденту с попыткой несанкционированной покупки. На основе сбоев в продакшене авторы сформулировали рекомендации по безопасной интеграции нейросетей в веб-продукты.