Опыт создания self-hosted RAG-системы с LangGraph на локальных LLM
Представлен практический опыт построения полностью автономной RAG-системы и аналитического AI-агента без обращения к внешним облачным API. Архитектура решения основана на базе LangGraph, PostgreSQL с pgvector, Ollama с моделями Qwen 2.5 14B и BGE-M3. Разработка позволяет обеспечить независимость от провайдеров и санкционную устойчивость при обработке данных.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Планы Anthropic объясняют масштабные траты компании на вычисления
Финансовые документы Anthropic показали стремление компании направить максимально возможный объем средств на вычислительные мощности. При этом компания убеждает инвесторов на Уолл-стрит в надежности бизнес-модели продажи IT-решений, параллельно стремясь к созданию сверхразумного искусственного интеллекта.
Amazon обновила Alexa для управления списками покупок и подписками
Amazon выпустила обновление для голосового ассистента Alexa, позволяющее создавать, просматривать и редактировать списки покупок. Также с помощью ИИ-бота пользователи теперь могут управлять подписками и инструкциями по доставке.
Deepgram приобрела компанию Daily, создателя фреймворка Pipecat
Deepgram приобрела компанию Daily для развития инфраструктуры голосового искусственного интеллекта. Покупатель также пообещал сохранить проект Pipecat в формате open source.
Нейросеть Газпром нефти сократила разработку рецептур масел до месяца
Газпром нефть разработала собственную нейросеть Алхимик для создания рецептур масел в условиях отсутствия готовых решений на рынке. Применение ИИ позволило компании сократить сроки разработки рецептур с полугода до одного месяца.