Безопасность ИИ в продакшене: риски при разработке с AI-ассистентами
Опубликовано руководство по безопасности кода, создаваемого с помощью AI-ассистентов вроде Cursor, GitHub Copilot и Claude Code. Материал содержит примеры уязвимостей с исправлениями на Python и разбор инцидентов для разработчиков уровня junior–middle и тимлидов. Фокус сделан на коде, генерируемом ИИ и отправляемом в прод, а также на сопутствующих рисках применения агентов.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Корпоративный ИИ и конфиденциальные данные: риски и безопасность
Государственные и частные компании активно внедряют искусственный интеллект в работу с данными. Однако использование нейросетей сотрудниками и бизнесом создает угрозы для персональных данных, коммерческой и государственной тайны. Эксперт рассматривает типичные риски утечек информации и методы безопасной организации работы с ИИ.
В РГУ нефти и газа обсудили мониторинг и предиктивную аналитику оборудования
В РГУ нефти и газа им. И.М. Губкина прошла конференция по мониторингу и предиктивной аналитике состояния объектов нефтегазового комплекса. Участники обсудили организацию сбора данных с датчиков, оценку времени предупреждения аварий и переход к обслуживанию техники по фактическому состоянию. Мероприятие состоялось совместно с отраслевым семинаром по диагностике компрессорных станций.
Шесть ошибок корпоративной архитектуры при работе с AI-агентами
AI-агенты могут обращаться к корпоративным системам в обход согласованных процессов, работать под учетными записями сотрудников и сохранять доступы без владельцев. На примере синтетической компании с 34 агентами рассмотрены ключевые архитектурные ошибки и методы их обнаружения через сверку MCP-конфигов, журналов LLM-шлюза и данных IAM.
В MIT создали метод обучения быстрых и надежных ИИ-моделей для прогнозирования климата
Ученые из MIT разработали новый метод обучения нейросетей, позволяющий моделировать влияние деятельности человека на климат. Предложенный подход работает значительно быстрее существующих альтернатив. Исследование может способствовать созданию более надежных систем климатического прогнозирования.