· Хабр

Ускорение работы агентов в Claude Code со сторонними LLM

Разработчик столкнулся с проблемой задержек при подключении сторонней модели Kimi K3.1 Pro к Claude Code вместо решений от Anthropic. Паузы при запуске команд в автоматическом режиме вызваны дополнительным вызовом нейросети, который проверяет безопасность действий агента.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

· Хабр · Open source · Безопасность

Репозиторий ONNX Runtime стал недоступен на GitHub на фоне инцидента с пакетами в PyPI

С вечера 17 ноября репозиторий microsoft/onnxruntime перестал открываться на GitHub, включая код, теги и релизы. Одновременно с этим в каталоге PyPI появились две зараженные версии пакета agent-framework со стилером. Пользователи временно лишились официального доступа к коду и сборкам библиотеки.

Google увеличит срок хранения временных чатов в Gemini до двух месяцев

Google объявила об увеличении срока хранения временных диалогов и переписок с отключенной историей в Gemini до двух месяцев. В компании пояснили, что данное изменение направлено на повышение безопасности на фоне развития систем искусственного интеллекта.

· MIT Technology Review · Модели · Исследования

Osmo обучает базовую модель для распознавания запахов на уровне человека

Стартап Osmo создает первую базовую модель искусственного интеллекта, способную анализировать запахи наравне с человеком. Для формирования датасета команда из 30 экспертов классифицирует ароматы, сопоставляя свои описания с данными химического анализа.

· Хабр · Железо · Исследования

Q.ANT и AMD протестировали запуск языковой модели на фотонном чипе

Компания Q.ANT совместно с AMD продемонстрировала гибридный инференс языковой модели, перенеся часть вычислений на фотонный сопроцессор NPU Gen 2+. Оптические чипы призваны обойти вычислительные ограничения механизма внимания и сократить нагрузку на память видеокарты. Ранее стартап Lumai уже реализовал оптический запуск моделей класса Llama 70B, добившись снижения энергопотребления на 90%.