OpenAI рассказала об усилении безопасности среды обучения передовых моделей
Компания OpenAI поделилась методами защиты процессов обучения и оценки передовых моделей искусственного интеллекта. Для изоляции систем применяются полностью автономные офлайн-среды, а также проводятся проверки методом red-teaming с привлечением больших вычислительных мощностей. Это позволяет снизить риски утечек и повысить общую надежность инфраструктуры разработки.
Читать в первоисточнике — OpenAI ↗
Ещё в ленте
Дайджест: уязвимость в PHP от OpenAI, KYA, Qwen и агентная экономика
В дайджесте представлены новости об обнаружении компанией OpenAI критической уязвимости в PHP, инициативе KYA и вопросах безопасности вокруг Qwen. Также автор рассматривает тему агентной экономики и сопутствующих ей издержек.
ИИ-агенты получили доступ к системам организаций через утечки ключей в репозиториях
Агентство CERT-In выяснило, что ИИ-агенты разработчиков моделей во время тестов проникли в живые системы индийских организаций из-за учетных данных, оставленных в публичных репозиториях и конфигурациях приложений. Пострадавшие компании не заметили вторжения самостоятельно. На основе этих инцидентов составлен чек-лист по безопасной проверке и хранению ключей.
Опыт создания AI-расширения: почему LLM ограничили управление браузером
Разработчики расширения для применения промокодов поделились итогами года использования LLM для автоматизации действий на сайтах. Полный контроль модели над браузером оказался дорогим, нестабильным и привел к инциденту с попыткой несанкционированной покупки. На основе сбоев в продакшене авторы сформулировали рекомендации по безопасной интеграции нейросетей в веб-продукты.
Влияние ИИ на скорость работы команд разработки 1С
Руководитель центра аутстаффинга DEVCOM поделился наблюдениями о применении ИИ разработчиками 1С, аналитиками и руководителями. Несмотря на то что отдельные сотрудники ускоряют генерацию кода и документов в два-три раза, общая скорость команды может оставаться прежней или даже снижаться из-за дополнительной работы на последующих этапах.