Исследование квантования линейки RWKV-7: причины деградации и оптимизация
Автор исследования проанализировал посттренировочное квантование моделей линейки RWKV-7 и выявил причину аномальной деградации версии на 2.9B параметров, связанную с наличием концентрированных каналов в нулевом блоке. На основе этих данных был разработан метод автоподбора битности и адаптирован алгоритм GPTQ, что позволило минимизировать потери перплексии и превзойти форматы GGUF и MLX по точности при равном размере файлов.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Тестирование локального кодинга с моделью Qwen3-Coder на ноутбуке с RTX 5070
Автор протестировал возможность полностью автономного написания кода на ноутбуке Meibenben X18A с процессором Ryzen 9 и видеокартой RTX 5070. Для эксперимента использовались открытая нейросеть Qwen3 Coder и подключенный к ней агент для программирования. Такой подход позволяет избежать отправки кода на сторонние серверы и ограничений платных подписок.
Legora разрабатывает агентную операционную систему для юристов
Компания Legora использует модели OpenAI, ChatGPT и Codex для создания агентной операционной системы для юридической сферы. Решение позволяет ускорить рабочие процессы, расширить возможности анализа договоров и освободить юристов для выполнения более сложных задач.
Использование Deep Research и MCP Mobbin для поиска дизайн-референсов
Дизайнер сервиса Альфа-Метрика поделился опытом решения проблемы оттока пользователей при редизайне каталога событий. Для поиска нестандартных референсов и проектирования сценария интерфейса были задействованы ChatGPT, Deep Research и Mobbin через MCP. Описанный подход помог ускорить работу и найти решение за счет упрощения интерфейса.
Опыт Magnus Tech: интеграция Claude в Unity для ускорения прототипирования игр
Компания Magnus Tech отказалась от составления подробных ТЗ и внедрила модель Claude напрямую в движок Unity через MCP для быстрого создания черновых прототипов. Подход позволил сократить цикл от формулирования гипотезы до первого теста с нескольких недель до пары часов. При этом в компании отмечают, что использование автономных ИИ-агентов требует жесткого планирования и эффективно не для всех задач.