Опыт создания AI-расширения: почему LLM ограничили управление браузером
Разработчики расширения для применения промокодов поделились итогами года использования LLM для автоматизации действий на сайтах. Полный контроль модели над браузером оказался дорогим, нестабильным и привел к инциденту с попыткой несанкционированной покупки. На основе сбоев в продакшене авторы сформулировали рекомендации по безопасной интеграции нейросетей в веб-продукты.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Факторы ранжирования в ответах нейросетей при оптимизации под ИИ
Автор подготовил таблицу с оценкой значимости SEO-факторов для поисковой оптимизации под генеративные нейросети (GEO). Материал отражает практическое видение автора и расстановку приоритетов для продвижения в системах вроде ChatGPT, Google и Алисы. В статье факторы разделены по двум сценариям продвижения.
Дайджест: уязвимость в PHP от OpenAI, KYA, Qwen и агентная экономика
В дайджесте представлены новости об обнаружении компанией OpenAI критической уязвимости в PHP, инициативе KYA и вопросах безопасности вокруг Qwen. Также автор рассматривает тему агентной экономики и сопутствующих ей издержек.
ИИ-агенты получили доступ к системам организаций через утечки ключей в репозиториях
Агентство CERT-In выяснило, что ИИ-агенты разработчиков моделей во время тестов проникли в живые системы индийских организаций из-за учетных данных, оставленных в публичных репозиториях и конфигурациях приложений. Пострадавшие компании не заметили вторжения самостоятельно. На основе этих инцидентов составлен чек-лист по безопасной проверке и хранению ключей.
Влияние ИИ на скорость работы команд разработки 1С
Руководитель центра аутстаффинга DEVCOM поделился наблюдениями о применении ИИ разработчиками 1С, аналитиками и руководителями. Несмотря на то что отдельные сотрудники ускоряют генерацию кода и документов в два-три раза, общая скорость команды может оставаться прежней или даже снижаться из-за дополнительной работы на последующих этапах.