Как внедрение случайности в ранний ИИ привело к галлюцинациям моделей
Доцент Бенджамин Линдквист исследует, как инженеры намеренно добавляли случайность в ранние системы искусственного интеллекта. По его данным, именно этот подход привел к созданию моделей глубокого обучения, способных галлюцинировать.
Читать в первоисточнике — MIT News ↗
Ещё в ленте
inDrive начнет тестирование роботакси Pony.ai в Казахстане в 2027 году
Сервис inDrive планирует запустить тестирование роботакси Pony.ai в столице Казахстана в первой половине 2027 года. Проект по внедрению беспилотных автомобилей в Центральной Азии реализуется при участии Pony.ai и Nvidia.
ИИ-агенты на виртуальном острове MIT начали играть и улучшили свои навыки
Исследователи из MIT изолировали 13 ИИ-агентов на виртуальном острове, оставив их без конкретных задач. В ответ на это агенты начали изобретать игры, оплакали потерянное кольцо и со временем стали эффективнее справляться со своими обязанностями.
Роль ИИ в разработке: от использования инструментов к глубокому пониманию кода
В материале рассматриваются вопросы доверия к генеративному ИИ при ревью и исправлении кода, а также актуальность чтения документации в эпоху ChatGPT. Автор поднимает проблему ситуаций, когда нейросеть не находит решение из-за ошибочного промпта или ограничений по времени.
Использование оценок баз данных как наград RL: обучение агентов с ThinkingBox
Представлен подход к постобучению ИИ-агентов с помощью инструмента ThinkingBox. Метод позволяет преобразовывать процесс оценки работы с базами данных в сигналы вознаграждения для обучения с подкреплением (RL).