Тестирование утилит сжатия токенов LLM выявило рост расходов вместо экономии
Тестирование популярных инструментов оптимизации токенов rtk, Headroom и ripwire показало увеличение затрат на задачах SWE-bench на 18% и в рабочих сессиях на 46%. Инструменты не обеспечили заявленного сжатия, а разработчики rtk после тестов JetBrains удалили из репозитория таблицу с обещаниями экономии.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Опыт ТестОпс: генерация тест-кейсов с помощью нейросетей
Команда ТестОпс поделилась практическим опытом использования ИИ для создания тест-кейсов на основе макетов из Figma. Для повышения качества генерации и устранения ошибок специалисты итеративно внедряли дополнительные слои контекста и инструменты проверок.
Anthropic исправила утечку секретов в GitHub через настройки Claude Code
Компания Apiiro обнаружила в публичных репозиториях GitHub более тысячи файлов локальных настроек Claude Code, содержащих пароли, токены и ключи. В ответ Anthropic выпустила обновление Claude Code 2.1.323, прекращающее сохранение таких правил.
Оверклокеры применили ChatGPT Astra для модификации BIOS
Ресурс Hardware 360º использовал нейросеть ChatGPT Astra для декомпиляции и сравнения двух версий BIOS от ASRock с включенной и выключенной функцией SkyOC. Искусственному интеллекту удалось найти отвечающий за разгон код и изменить его для создания совместимой прошивки.
400 дата-центров в США потребляют больше энергии, чем штат Мичиган
Ученые Гарвардского университета выяснили, что 400 центров обработки данных в США за год потребляют больше электроэнергии, чем весь штат Мичиган. При этом большая часть ресурса вырабатывается за счет ископаемого топлива, а объем связанных с дата-центрами выбросов вырос втрое по сравнению с показателями до бума ИИ.