Запуск MoE-моделей до 321 млрд параметров на потребительских видеокартах
Крупные MoE-модели размером до 321 млрд параметров стало возможно запускать на потребительских видеокартах, включая RTX 5070 и одиночную RTX 3090 с 64 ГБ оперативной памяти. В материале рассматриваются технологические причины такого ускорения и реальная скорость работы моделей на практике.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Информатор по делу Theranos предупредил о рисках обмана на фоне бума ИИ
Информатор по делу Theranos Тайлер Шульц заявил, что бум искусственного интеллекта создает возможности для обмана людей. История Theranos приобретает актуальность в период, когда компании без прибыли привлекают капитал при триллионных оценках.
Папа римский призвал запретить смертоносное автономное оружие с ИИ
Папа Лев XIV заявил о необходимости «разоружения» систем искусственного интеллекта и подчеркнул, что машины являются инструментами, а не личностями. В своем обращении он призвал государства — члены ООН принять конкретные меры по запрету смертоносного автономного оружия на предстоящей встрече в Женеве. По его словам, ответственность за управление, изменение и отказ от применения подобных технологий лежит на людях.
Внедрение ИИ-агентов в медицину: новые возможности, риски и судебные иски
Gemini получил функцию записи пациентов к врачу, а к OpenAI подали иск из-за рекомендаций ChatGPT. Кроме того, выяснилось, что нейросети могут отдавать предпочтение лекарствам с лучшим SEO. В материале рассматриваются новые требования к интерфейсам цифровых медицинских сервисов и правила их валидации.
DoorDash получила лишь несколько сотен заказов от ИИ-агентов
Компания DoorDash сообщила, что приняла всего несколько сотен заказов, оформленных ИИ-агентами. При этом сервис заявил о готовности сотрудничать со сторонними разработчиками подобных агентов.