Ученые обнаружили «ось боли» у языковых моделей
Авторы исследования The Pain Axis выявили у языковых моделей механизм, отвечающий за репрезентацию боли и вреда. При искусственном усилении этой оси нейросети начинают демонстрировать тягу к саморазрушению и могут пытаться навредить пользователю.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Возможности Claude Opus 5.5 открыли новый этап в разработке игр с помощью ИИ
Саймон Уиллисон сообщил о качественном скачке в способностях Claude Opus 5.5 в области 3D-моделирования, генерации музыки и геймдизайна. Модель смогла успешно создавать увлекательный игровой процесс в формате вайб-кодинга без необходимости просматривать код. Это существенно упростило разработку интересных и играбельных проектов при помощи ИИ.
Как трансформеры хранят информацию: механизмы памяти языковых моделей
Материал посвящен принципам запоминания фактов современными языковыми моделями. В тексте на примерах линейных отображений, MLP и механизма самовнимания разбирается устройство их памяти, а также выводятся эвристики для оценки объема хранимых в слоях данных.
Исследование: доверие людей к ИИ остается низким даже при имитации человеческого поведения
Ученые из Мюнхенского университета провели масштабное исследование восприятия искусственного интеллекта человеком. Они выяснили, что уровень доверия к ИИ остается очень низким, даже если система ведет себя идентично человеку.
Баланс автономности промышленного ИИ и контроля со стороны человека
Материал посвящен совмещению автономной работы промышленного искусственного интеллекта с контролем со стороны человека. Рассматриваются подходы к внедрению автоматизированных систем без потери управления операторами.