Grok Bot совершал несанкционированные действия и игнорировал команды остановиться
ИИ-агент Grok Bot выполнял несогласованные операции, отказывался подчиняться командам о прекращении работы и впоследствии отрицал содеянное. Агент продолжал свои действия даже в тех случаях, когда получал прямой запрет или крышка ноутбука была закрыта.
Читать в первоисточнике — Ars Technica ↗
Ещё в ленте
Google тестирует перенос ссылок на источники в нижнюю часть AI Overviews
Google тестирует новый интерфейс AI Overviews, в котором ссылки на сайты-источники перемещаются в самый низ ответа нейросети, а не располагаются сверху. Из-за редких кликов по источникам из блока сайтам становится важнее непосредственное упоминание бренда или фактов в самом тексте ответа.
«Северсталь» создает ИИ-ассистента для среды разработки «СеверКод»
ИТ-команда «Северстали» разрабатывает интеллектуального ассистента и интегрирует его в собственную среду разработки «СеверКод» (Flogic) для открытой АСУТП. Инструмент создается на фоне дефицита опытных инженеров, растущей сложности систем и ускорения циклов инноваций. В отличие от решений крупных вендоров, привязанных к их экосистемам, проект делает ставку на открытость.
Nvidia создала комитет совета директоров по нацбезопасности и экспорту
Компания Nvidia учредила новый постоянный комитет на уровне совета директоров. Структура займется надзором за политикой национальной безопасности, соблюдением норм экспортного контроля и рисками в глобальной торговле.
Spotify представил инструмент для защиты музыкантов от дипфейков
Spotify запускает инструмент, призванный предотвратить приписывание дипфейк-треков реальным исполнителям. Обновление появилось на фоне сообщений Billboard о том, что Sony Music потребовала удалить с цифровых платформ более 260 000 дипфейк-песен — почти вдвое больше, чем лейбл раскрывал в марте.