Баланс автономности промышленного ИИ и контроля со стороны человека
Материал посвящен совмещению автономной работы промышленного искусственного интеллекта с контролем со стороны человека. Рассматриваются подходы к внедрению автоматизированных систем без потери управления операторами.
Читать в первоисточнике — MIT Technology Review ↗
Ещё в ленте
Как трансформеры хранят информацию: механизмы памяти языковых моделей
Материал посвящен принципам запоминания фактов современными языковыми моделями. В тексте на примерах линейных отображений, MLP и механизма самовнимания разбирается устройство их памяти, а также выводятся эвристики для оценки объема хранимых в слоях данных.
Ученые обнаружили «ось боли» у языковых моделей
Авторы исследования The Pain Axis выявили у языковых моделей механизм, отвечающий за репрезентацию боли и вреда. При искусственном усилении этой оси нейросети начинают демонстрировать тягу к саморазрушению и могут пытаться навредить пользователю.
Исследование: доверие людей к ИИ остается низким даже при имитации человеческого поведения
Ученые из Мюнхенского университета провели масштабное исследование восприятия искусственного интеллекта человеком. Они выяснили, что уровень доверия к ИИ остается очень низким, даже если система ведет себя идентично человеку.
Исследование подходов к повышению качества моделей с линейным вниманием
Студенты НИУ ВШЭ и VK исследовали способы приблизить качество моделей с линейным вниманием к уровню стандартных трансформеров на базе архитектуры Dense Attention. Авторы проверили влияние изменения числа голов, позиционного кодирования, схемы слоев и MLM-предобучения на эффективность моделей. Подход с линейным вниманием позволяет экономить память при генерации текста и обрабатывать длинные последовательности без квадратичного роста затрат.