Энтузиаст запустил языковую модель Qwen на плате FPGA за 50 долларов
Разработчик использовал открытый проект openTPU для запуска языковой модели на плате FPGA с 4 ГБ памяти стоимостью 50 долларов. Устройство подключили к стандартному мини-ПК в рамках эксперимента по созданию собственного ИИ-ускорителя.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Danu Robotics разрабатывает робота для сортировки вторсырья
Основательница Danu Robotics Эми Ма на протяжении шести лет занимается созданием улучшенного робота для сортировки перерабатываемых отходов. Разработка направлена на повышение эффективности и качества переработки мусора.
Склонность людей очеловечивать искусственный интеллект
Исследовательница Sherry Turkle обратила внимание на особенности восприятия систем искусственного интеллекта человеком. По ее словам, даже примитивный диалог с подобным объектом заставляет людей верить во взаимную заботу и эмоциональную связь.
В a16z оценили перспективы потребительского ИИ и способы его монетизации
Партнер венчурного фонда a16z Оливия Мур заявила о масштабных возможностях в секторе потребительского ИИ. По ее мнению, успех индустрии зависит от поиска новых источников дохода за рамками стандартных подписок и платы за доступ к API.
Эффективное планирование задач для GPU-кластеров
Hugging Face представила материал об эффективном планировании рабочих нагрузок на GPU-кластерах. Публикация рассматривает подходы к оптимизации распределения вычислительных ресурсов при обучении и инференсе моделей.