Опыт проверки кодом учебных заданий, сгенерированных моделью Claude
Разработчики образовательной игры используют модель Claude от Anthropic для создания персональных заданий под запросы пользователей. Из-за вычислительных ошибок нейросети команда проекта начала проверять сгенерированный контент программным кодом после разбора жалоб игроков.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Автозаполнение в Chrome теперь использует Gemini для извлечения данных из Gmail
Функция улучшенного автозаполнения в Google Chrome начала использовать систему Gemini с Personal Intelligence для подстановки информации из Gmail. Ранее инструмент мог подтягивать имя, адрес или паспортные данные только из учетных записей Google и сервисов вроде Google Wallet. Интеграция с почтой позволит пользователям быстрее заполнять веб-формы недостающими сведениями.
GitHub представил данные отчета Octoverse о влиянии ИИ-агентов на разработку
В отчете Octoverse зафиксирован резкий рост активности разработчиков на платформе на фоне распространения ИИ-агентов. Число принятых pull request утроилось до 220 млн в месяц, а количество коммитов превысило 7,38 млрд ежемесячно. Для сбора и классификации данных методологии отчета также использовались языковые модели.
Использование периодических функций активации в нейросетях
В материале исследуется применение периодических функций, таких как синус, в качестве функций активации нейросетей. Автор проводит сравнительные эксперименты на простых сетях, сопоставляя их работу с традиционными непериодическими активациями: tanh, sigmoid и ReLU.
Проверка устойчивости нейросети к вопросам с ложными предпосылками
Автор протестировала реакцию нейросети на вопросы с заведомо ложными фактами, включая слепоту летучих мышей и отказ Мережковского от Нобелевской премии. В ходе диалога модель начинала сомневаться в верных тезисах, даже если изначально спорила с пользователем. В статье разбираются механизмы возникновения ошибок в запросах и необходимость перепроверки фактов за искусственным интеллектом.