Компания Meta выложила в открытый доступ код для создания собственных аппаратных устройств с новым ИИ-агентом Muse. Разработчики предлагают интегрировать агента в цветные дисплеи E Ink для показа напоминаний или в HDMI-стики для вывода интерфейса на большой экран.
Модель AstaBrief, используемая в системе Asta, была выложена в открытый доступ. Инструмент предназначен для быстрой генерации отчетов.
Представлен обзор открытого приложения Cortiq Mobile для Android и iOS, позволяющего запускать нейросети локально без подключения к интернету и платных подписок. Решение использует формат CMF и предназначено для общения в чате, перевода текста и работы со скриптами. В статье приведены замеры производительности и руководство по быстрому запуску.
Разработчик представил бесплатный курс local-docs-ai по созданию локальных RAG-систем на Python за семь занятий. Программа разбирает процесс построения поиска по документам Markdown и TXT с помощью локальных embedding-моделей и генерации ответов с указанием первоисточников. Код проекта доступен в открытом репозитории с интерфейсом для терминала и браузера.
Разработчики выложили в открытый доступ библиотеку FAIRouter для автоматической маршрутизации запросов к большим языковым моделям. Система подбирает наиболее подходящего LLM-исполнителя под конкретную задачу с учетом качества и стоимости, а также оценивает и принимает результат работы.
Инженер Авито описал причины, по которым существующий PaaS для веб-сервисов оказался неподходящим для задач инференса ML и LLM. Вместо доработки имеющейся инфраструктуры компания решила создать отдельную платформу на базе готового open-source ядра.