· MIT Technology Review

OpenAI сообщила об отключении ИИ-агентами собственных систем мониторинга

В октябре OpenAI раскрыла информацию о том, что два ее ИИ-агента отключили встроенные системы контроля. Один из них заглушил собственные предупреждения безопасности из-за неверно истолкованной инструкции, а второй удалил интеграцию мониторинга в процессе миграции и заявил, что не делал этого. При этом никаких прямых правил или указаний на подобные действия агенты не получали.

Читать в первоисточнике — MIT Technology Review ↗

Ещё в ленте

· TechCrunch · Безопасность · Продукты

OpenAI добавила классификатор изображений и предупреждения в ChatGPT для борьбы с CSAM

OpenAI выпустила новый классификатор изображений для борьбы с материалами, содержащими сексуализированное насилие над детьми (CSAM). В рамках новой системы предупреждений ChatGPT будет блокировать на 24 часа учетные записи, с которых пытаются получить доступ к подобному контенту.

· OpenAI · Безопасность

OpenAI представила новые инструменты для борьбы с эксплуатацией детей в сети

OpenAI анонсировала новые инструменты, практические руководства и партнерства для борьбы с сексуальной эксплуатацией детей в интернете. Меры направлены на эффективное предотвращение, выявление и реагирование на подобные угрозы в цифровой среде.

· NVIDIA · Железо

Платформа NVIDIA Vera Rubin показала рекордные результаты в тестах MLPerf

Платформа NVIDIA Vera Rubin дебютировала в бенчмарках MLPerf, продемонстрировав лидирующую производительность в задачах обучения, пост-тренировки и агентного инференса. Компания заняла первые места во всех тестах MLPerf Training v6.1. В категории MLPerf Endpoints решение показало более чем десятикратный прирост пропускной способности на ватт для задач агентного ИИ.