Apple Intelligence занимает десятки гигабайт на накопителях устройств
Летом 2024 года компания Apple представила платформу Apple Intelligence, пообещав обновленную Siri и интеграцию с приложениями. При этом ИИ-функции требуют около 30 гигабайт памяти на накопителе устройства, а удалить их затруднительно.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Релиз llm-tools-datasette 0.1.1: исправление совместимости с LLM 0.33
Выпущена версия 0.1.1 плагина llm-tools-datasette для инструмента LLM. Обновление исправляет проблему совместимости, возникшую после перехода LLM на httpx2 в версии 0.33. Ошибка затрагивала плагины, использовавшие https без прямого указания зависимости.
Релиз llm-echo 0.5: обновление отладочного плагина для CLI-утилиты LLM
Саймон Уиллисон выпустил версию 0.5 отладочного плагина llm-echo, который симулирует работу модели и возвращает переданные ему промпты без обращения к настоящим LLM. В новом релизе расчет симулированного расхода токенов теперь учитывает системные промпты, вызовы инструментов и токены рассуждений.
Разбор метрик и ошибок диалогового агента в экспериментальной системе ELM
Разработчик экспериментальной системы ELM исследовал причины высоких оценок диалогового агента в бенчмарках. В ходе тестов выяснилось, что даже простая заглушка без вызова инструментов смогла набрать 34% на полном наборе данных. Для выявления реальных возможностей системы автор проанализировал действия агента отдельно и проверил цикл исполнения с помощью контрольной модели.