Q.ANT и AMD протестировали запуск языковой модели на фотонном чипе
Компания Q.ANT совместно с AMD продемонстрировала гибридный инференс языковой модели, перенеся часть вычислений на фотонный сопроцессор NPU Gen 2+. Оптические чипы призваны обойти вычислительные ограничения механизма внимания и сократить нагрузку на память видеокарты. Ранее стартап Lumai уже реализовал оптический запуск моделей класса Llama 70B, добившись снижения энергопотребления на 90%.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Google увеличит срок хранения временных чатов в Gemini до двух месяцев
Google объявила об увеличении срока хранения временных диалогов и переписок с отключенной историей в Gemini до двух месяцев. В компании пояснили, что данное изменение направлено на повышение безопасности на фоне развития систем искусственного интеллекта.
Osmo обучает базовую модель для распознавания запахов на уровне человека
Стартап Osmo создает первую базовую модель искусственного интеллекта, способную анализировать запахи наравне с человеком. Для формирования датасета команда из 30 экспертов классифицирует ароматы, сопоставляя свои описания с данными химического анализа.
Ускорение работы агентов в Claude Code со сторонними LLM
Разработчик столкнулся с проблемой задержек при подключении сторонней модели Kimi K3.1 Pro к Claude Code вместо решений от Anthropic. Паузы при запуске команд в автоматическом режиме вызваны дополнительным вызовом нейросети, который проверяет безопасность действий агента.
Опубликован перевод статьи 2013 года с прогнозом развития ИИ
Опубликован перевод материала научного журналиста Джорджа Дворского от 2013 года, в котором описывается растущая роль нейросетей. В статье рассматривается делегирование ассистентам стратегических задач, включая вопросы жизни и смерти.