Ученые описали эффект коллапса моделей при обучении на сгенерированных данных
Исследователи из Оксфорда, Кембриджа, университетов Торонто и Эдинбурга изучили поведение языковых моделей при обучении на контенте, созданном другими LLM. Выяснилось, что использование сгенерированных данных приводит к необратимым дефектам и исчезновению хвостов исходного распределения контента. Ученые назвали выявленный эффект «коллапсом модели».
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Разработка синтаксиса языка Nova в диалогах с Claude
Создатель нового бэкенд-языка программирования Nova поделился опытом совместного проектирования синтаксиса с моделью Claude. Публикация включает разбор 11 споров об архитектурных решениях и чек-лист о том, когда разработчику стоит соглашаться или спорить с ИИ.
Подходы к оценке агентных систем и калибровке LLM-судей
Представлен практический разбор методологии оценки агентных систем с переходом к измеримым метрикам. Автор рассматривает проверку траекторий вызова инструментов, настройку LLM-судей и правила привлечения асессоров. Описанный подход объединен в пайплайн с контрольными гейтами перед релизом функционала в продакшен.
Клоны игр на базе ИИ вынуждают инди-разработчиков скрывать свои проекты
Инди-разработчики опасаются публично показывать свои проекты из-за риска создания их клонов с помощью искусственного интеллекта. Задержка демоверсии для фестиваля Steam Next Fest стала показателем нарастающей проблемы для создателей независимых игр.
MWS представила ORCESTRA — интерфейс для обучения роботов с использованием VLM
Команда направления Physical AI в MWS разработала систему ORCESTRA, предназначенную для обучения роботов различных конструкций — от колесных платформ до гуманоидов. Интерфейс объединяет смешанную реальность, цифровых двойников и VLM для поиска точек захвата и снижения риска поломок оборудования.