Член совета директоров OpenAI предупредил о рисках скорого захвата контроля ИИ
Член совета директоров OpenAI выразил опасение, что искусственный интеллект может взять контроль над обществом уже через несколько месяцев. Исследователь связал эту угрозу с проблемой взлома функций вознаграждения ИИ, способной привести к вымиранию человечества.
Читать в первоисточнике — Ars Technica ↗
Ещё в ленте
Передовые китайские ИИ-модели обучали на запрещенных чипах Nvidia
Новое исследование показало, что наиболее продвинутые ИИ-модели из Китая были созданы с использованием запрещенных к экспорту чипов Nvidia. Эти графические процессоры применялись для обучения самых мощных китайских систем искусственного интеллекта.
Создание симуляции манипуляций робота с помощью ассетов SimReady
Представлено руководство по созданию симуляции роботизированного захвата и перемещения объектов pick-and-place. В проекте используются специализированные для симуляций ассеты SimReady.
В Telegram исправили уязвимость HTML-виджетов, найденную с помощью нейросетей
Исследователи показали способ запустить стороннее приложение через HTML-виджет в Telegram на Android, применив нейросети для поиска багов. Павел Дуров заявил об отсутствии уязвимости и устранении проблемного сценария в обновлениях мессенджера.
Член совета директоров OpenAI предупредил об угрозе захвата общества ИИ в ближайшие месяцы
Член совета директоров OpenAI выразил опасения, что захват общества искусственным интеллектом может произойти уже через несколько месяцев. Исследователь описал сценарий развития событий от взлома систем вознаграждения ИИ до потенциального вымирания человечества.