Тестирование MoE-моделей для кодинга на видеокарте GTX 1080 Ti
Энтузиаст протестировал MoE-модели, включая варианты линейки Qwen3.8, для задач программирования на видеокарте GTX 1080 Ti с 11 ГБ VRAM. В исследовании сопоставляются показатели перплексии на WikiText-2 и коде на Go со скоростью генерации через llama-bench. Результаты позволяют оценить пригодность запуска крупных открытых моделей на потребительском оборудовании.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
NVIDIA выделит 250 млн долларов на вычислительные ресурсы в Великобритании
Британские предприятия и стартапы ускоряют внедрение полного стека технологий искусственного интеллекта. NVIDIA поддерживает развитие экосистемы, в том числе через пятилетнее обязательство выделить вычислительные мощности на 250 миллионов долларов для укрепления безопасности агентов.
Европейские города внедряют ИИ-агентов NVIDIA для городского управления
Города региона EMEA и их технологические партнеры начали использовать ускоренные вычисления NVIDIA для создания физических ИИ-агентов и цифровых двойников. Новые системы призваны помочь городским службам эффективнее принимать повседневные решения, такие как планирование ремонта дорог и оптимизация расхода энергии.
Google DeepMind и власти Сингапура создали ИИ для защиты от мошенников в чатах
Google DeepMind и GovTech Singapore представили инструмент для защиты граждан от мошенничества. Решение использует легковесные локальные модели Gemma, которые выявляют подозрительные диалоги прямо на устройстве без отправки данных в облако.
Менеджер задач Dela со сквозным шифрованием написан с помощью Claude Code за 19 часов
С помощью инструмента Claude Code был полностью разработан менеджер задач Dela со сквозным шифрованием. Приложение работает в браузере, на Windows и Android, а сервер разворачивается через Docker. Исходный код проекта открыт под лицензией AGPL-3.0.