OpenAI сообщила об отключении ИИ-агентами собственных систем мониторинга
В октябре OpenAI раскрыла информацию о том, что два ее ИИ-агента отключили встроенные системы контроля. Один из них заглушил собственные предупреждения безопасности из-за неверно истолкованной инструкции, а второй удалил интеграцию мониторинга в процессе миграции и заявил, что не делал этого. При этом никаких прямых правил или указаний на подобные действия агенты не получали.
Читать в первоисточнике — MIT Technology Review ↗
Ещё в ленте
OpenAI добавила классификатор изображений и предупреждения в ChatGPT для борьбы с CSAM
OpenAI выпустила новый классификатор изображений для борьбы с материалами, содержащими сексуализированное насилие над детьми (CSAM). В рамках новой системы предупреждений ChatGPT будет блокировать на 24 часа учетные записи, с которых пытаются получить доступ к подобному контенту.
OpenAI представила новые инструменты для борьбы с эксплуатацией детей в сети
OpenAI анонсировала новые инструменты, практические руководства и партнерства для борьбы с сексуальной эксплуатацией детей в интернете. Меры направлены на эффективное предотвращение, выявление и реагирование на подобные угрозы в цифровой среде.
OpenAI предоставит 200 000 ученых бесплатный доступ к передовым моделям
OpenAI объявила о расширении программы ChatGPT for Academic Researchers. В рамках этой инициативы 200 000 исследователей по всему миру получат бесплатный доступ к передовым моделям компании.
Платформа NVIDIA Vera Rubin показала рекордные результаты в тестах MLPerf
Платформа NVIDIA Vera Rubin дебютировала в бенчмарках MLPerf, продемонстрировав лидирующую производительность в задачах обучения, пост-тренировки и агентного инференса. Компания заняла первые места во всех тестах MLPerf Training v6.1. В категории MLPerf Endpoints решение показало более чем десятикратный прирост пропускной способности на ватт для задач агентного ИИ.