Ускорение работы агентов в Claude Code со сторонними LLM
Разработчик столкнулся с проблемой задержек при подключении сторонней модели Kimi K3.1 Pro к Claude Code вместо решений от Anthropic. Паузы при запуске команд в автоматическом режиме вызваны дополнительным вызовом нейросети, который проверяет безопасность действий агента.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Репозиторий ONNX Runtime стал недоступен на GitHub на фоне инцидента с пакетами в PyPI
С вечера 17 ноября репозиторий microsoft/onnxruntime перестал открываться на GitHub, включая код, теги и релизы. Одновременно с этим в каталоге PyPI появились две зараженные версии пакета agent-framework со стилером. Пользователи временно лишились официального доступа к коду и сборкам библиотеки.
Google увеличит срок хранения временных чатов в Gemini до двух месяцев
Google объявила об увеличении срока хранения временных диалогов и переписок с отключенной историей в Gemini до двух месяцев. В компании пояснили, что данное изменение направлено на повышение безопасности на фоне развития систем искусственного интеллекта.
Osmo обучает базовую модель для распознавания запахов на уровне человека
Стартап Osmo создает первую базовую модель искусственного интеллекта, способную анализировать запахи наравне с человеком. Для формирования датасета команда из 30 экспертов классифицирует ароматы, сопоставляя свои описания с данными химического анализа.
Q.ANT и AMD протестировали запуск языковой модели на фотонном чипе
Компания Q.ANT совместно с AMD продемонстрировала гибридный инференс языковой модели, перенеся часть вычислений на фотонный сопроцессор NPU Gen 2+. Оптические чипы призваны обойти вычислительные ограничения механизма внимания и сократить нагрузку на память видеокарты. Ранее стартап Lumai уже реализовал оптический запуск моделей класса Llama 70B, добившись снижения энергопотребления на 90%.