Релиз llm-echo 0.5: обновление отладочного плагина для CLI-утилиты LLM
Саймон Уиллисон выпустил версию 0.5 отладочного плагина llm-echo, который симулирует работу модели и возвращает переданные ему промпты без обращения к настоящим LLM. В новом релизе расчет симулированного расхода токенов теперь учитывает системные промпты, вызовы инструментов и токены рассуждений.
Читать в первоисточнике — Simon Willison ↗
Ещё в ленте
Apple Intelligence занимает десятки гигабайт на накопителях устройств
Летом 2024 года компания Apple представила платформу Apple Intelligence, пообещав обновленную Siri и интеграцию с приложениями. При этом ИИ-функции требуют около 30 гигабайт памяти на накопителе устройства, а удалить их затруднительно.
Релиз llm-tools-datasette 0.1.1: исправление совместимости с LLM 0.33
Выпущена версия 0.1.1 плагина llm-tools-datasette для инструмента LLM. Обновление исправляет проблему совместимости, возникшую после перехода LLM на httpx2 в версии 0.33. Ошибка затрагивала плагины, использовавшие https без прямого указания зависимости.
Разбор метрик и ошибок диалогового агента в экспериментальной системе ELM
Разработчик экспериментальной системы ELM исследовал причины высоких оценок диалогового агента в бенчмарках. В ходе тестов выяснилось, что даже простая заглушка без вызова инструментов смогла набрать 34% на полном наборе данных. Для выявления реальных возможностей системы автор проанализировал действия агента отдельно и проверил цикл исполнения с помощью контрольной модели.
Представлен Sextant — созданный с помощью Claude Code open-source клиент Kubernetes
Разработчики представили Sextant — бесплатный open-source клиент Kubernetes на Rust и Tauri 2, чей код был полностью написан с помощью Claude Code под контролем человека. По замерам авторов, приложение работает в 4–7 раз быстрее Freelens и Lens и потребляет вдвое меньше памяти. Продукт также включает встроенный MCP-сервер для безопасного допуска AI-агентов к управлению кластером.