ИИ-агенты для разработки кода расходуют в десятки раз больше токенов
При выполнении задач по программированию ИИ-агенты не просто дают один ответ, а планируют действия, генерируют код, запускают тесты и исправляют ошибки. В результате на одну задачу может уходить в 10–50 раз больше токенов, чем на обычный диалоговый запрос. Повышение эффективности и автономности таких агентов приводит к резкому росту числа вызовов модели.
Читать в первоисточнике — MIT Technology Review ↗
Ещё в ленте
Эксперимент: мнение тимлида в промпте меняет оценку задач нейросетями на 20%
Эксперимент на исторических задачах Jira показал, что добавление мнения тимлида в промпт меняет оценки story points двух LLM примерно на 20%. Это демонстрирует влияние эффекта якоря на языковые модели при покер-планировании спринтов. При этом близость итоговой суммы к командной оценке не гарантирует ее точности.
U.S. Census Bureau обновило методику оценки внедрения AI в американском бизнесе
U.S. Census Bureau изменило формулировку вопроса в регулярном опросе бизнеса BTOS, начав учитывать использование AI в любых бизнес-функциях, а не только в производстве товаров и услуг. Согласно обновленным данным, доля использования технологий крупными компаниями выросла с 12% до примерно 40%. Также автор отмечает влияние указа Executive Order 14434 на сбор статистики ведомством.
Платформа Третье Мнение применила Ray для масштабирования анализа медицинских снимков
ML-команда компании «Платформа Третье Мнение» поделилась опытом масштабирования сервисов компьютерного зрения с помощью Ray. Компания разрабатывает решения для лучевой диагностики, обрабатывая снимки КТ, рентгенографии и маммографии для выявления патологий. Внедрение Ray позволило оптимизировать архитектуру обработки входящих потоков данных от медицинских организаций.
В Гринатоме определили отличия программных роботов от интеллектуальных агентов
Специалист АО «Гринатом» проанализировал нормативные документы, включая приказы Минцифры, Минпромторга и ГОСТы, чтобы разграничить понятия программных роботов и интеллектуальных агентов. На основе нормативной базы автор выделил ключевые признаки для классификации каждого типа систем.