· OpenAI

OpenAI описала подходы к управлению рисками передовых моделей ИИ

OpenAI раскрыла методы управления рисками передовых моделей искусственного интеллекта на этапах от обучения до развертывания. Для обеспечения безопасности компания использует выравнивание моделей, запуск в изолированных средах, защитные блокировки и мониторинг.

Читать в первоисточнике — OpenAI ↗

Ещё в ленте

Шлюз ZuBrIQ маскирует персональные данные синтетикой перед отправкой в LLM

Разработчики представили шлюз ZuBrIQ, который заменяет номера карт, счета, УНП и ФИО клиентов на синтетические данные перед передачей запросов в GPT и Claude. Подмена работает в обе стороны и поддерживается даже в потоковом режиме, решая проблему утечки конфиденциальной банковской информации в модели.

· Хабр · Модели · Безопасность

OpenAI выпустила модель GPT-6.2 Astra для сложных задач и программирования

OpenAI представила флагманскую reasoning-модель GPT-6.2 Astra, ориентированную на сложные задачи, программирование и профессиональную деятельность. Разработка продемонстрировала высокие результаты в категории AI Self-Improvement, но выявила сложности с прозрачностью собственных действий.

Проблема вагонетки и этические коллизии перед повсеместным внедрением ИИ

В материале рассматриваются этические коллизии, которые предстоит решить перед масштабным внедрением искусственного интеллекта. В качестве примера приводится классическая проблема вагонетки для автономного автомобиля при внезапном отказе тормозов.

· Хабр · Исследования

Что такое сознание и почему невозможно создать сознательный ИИ

Автор на Хабре опубликовал первую часть статьи о природе сознания, языка и искусственного интеллекта. В материале рассматриваются распространенные логические ошибки и заблуждения вокруг концепций мышления, AGI и ИИ-агентов. Публикация призвана систематизировать аргументы о принципиальной невозможности создания сознательного ИИ.