Сатья Наделла заявил о необходимости экстренного тормоза для моделей ИИ
Генеральный директор Microsoft Сатья Наделла заявил, что моделям искусственного интеллекта необходим механизм экстренного торможения. По его словам, настало время сделать шаг назад и оценить архитектуру доверия в сфере ИИ.
Читать в первоисточнике — TechCrunch ↗
Ещё в ленте
Odyssey представила мировую модель Odyssey-3 для обучения роботов по видео
Компания Odyssey представила мировую модель Odyssey-3 и открыла к ней доступ в формате research preview. Разработка изучает физические законы окружающего мира на основе анализа видео, что позволяет адаптировать ее к управлению роботами с минимальным объемом дополнительных данных.
Сатья Наделла призвал считать все модели ИИ скомпрометированными
Генеральный директор Microsoft Сатья Наделла опубликовал пост в X, где изложил свой взгляд на опасности продвинутых моделей ИИ и методы противодействия этим рискам. Он заявил, что мир больше не должен воспринимать ИИ как набор вложенных «черных ящиков», действиям и выводам которых просто слепо доверяют.
Вычисление весов нейросетей вместо хранения матриц
Рассматриваются подходы к расчету весов нейросетей по компактным правилам вместо их хранения в виде больших матриц. Среди таких методов упоминаются генерация параметров вспомогательными сетями, математическими формулами и фракталами. Анализируются компромиссы компактности и перспективы запуска LLM на маломощных устройствах.
Проблема доверия к коду при массовом внедрении ИИ-ассистентов
Опубликован материал о влиянии инструментов генерации кода на основе LLM на процессы разработки программного обеспечения. В статье анализируются причины, по которым при росте метрик процесса доверие к создаваемому с помощью ИИ коду снижается.