· Hugging Face

Запуск MoE-моделей на 180 млрд параметров на 32 ГБ RAM в Transformers

Разработчики библиотеки Transformers продемонстрировали возможность инференса MoE-моделей объемом 180 миллиардов параметров на устройствах с 32 ГБ оперативной памяти. Это решение расширяет возможности запуска крупных моделей смеси экспертов в условиях ограниченных аппаратных ресурсов.

Читать в первоисточнике — Hugging Face ↗

Ещё в ленте

· Ars Technica · Продукты · Бизнес

Microsoft интегрировала приложения Office внутрь Copilot

Приложения Word, Excel и PowerPoint теперь работают непосредственно внутри ИИ-ассистента Copilot. Следующим шагом в развитии сервиса станет внедрение постоянно активных ИИ-агентов. Изменения призваны сделать Copilot основной платформой для работы.

· TechCrunch · Бизнес · Железо

Nvidia прогнозирует продолжение роста рекордной выручки

Несмотря на кризис после ухода основателя и генерального директора Дженсена Хуанга, Nvidia ожидает сохранения высоких финансовых результатов. Компания прогнозирует, что серия ее рекордных показателей выручки в ближайшее время продолжится.

OpenAI опубликовала эссе о влиянии мощного ИИ на общество и институты

Руководитель направления Strategic Futures в OpenAI Дин Болл проанализировал, как более способный искусственный интеллект может трансформировать общество. В материале рассматриваются способы, с помощью которых люди смогут сохранить контроль над институтами.

· OpenAI · Железо · Модели

Модели OpenAI оптимизировали разработку чипов и ядер RISC-V

Модели OpenAI оптимизировали микросхемы для кремниевых чипов Jalapeño и усовершенствовали дизайн ядер RISC-V. Этот результат продемонстрировал прогресс в проектировании микроэлектроники с помощью ИИ на базе GPT-6 Astra.