Agentgateway: open-source-решение для контроля и централизации работы с ИИ
Специалист компании RED Security представил open-source-проект Agentgateway. Решение предназначено для контроля и централизованного управления работой с искусственным интеллектом.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Опыт внедрения ИИ-агентов для подготовки технических требований
Команда аналитиков выстроила конвейер работы с собственными ИИ-агентами для проектирования и анализа сложных проектов. В пайплайн входит сбор контекста из Git, заметок и требований заказчика, совместный анализ и преобразование Markdown в готовые ЧТЗ в формате docx. Подход показывает, как структурировать входные данные для получения качественного результата от нейросетей.
2ГИС запустил MCP-сервер для интеграции геосервисов с LLM
2ГИС выпустил собственный MCP-сервер, предоставляющий ИИ-агентам прямой доступ к геосервисам платформы через шесть специализированных инструментов. Решение позволяет языковым моделям искать организации, строить маршруты, выполнять геокодирование и работать со статическими картами без галлюцинаций в адресах. Разработчики также поделились инженерным опытом проектирования контрактов инструментов для LLM и внедрения сервера в прод.
Представлен открытый офлайн-инструмент YOLO Annotator для разметки данных
Разработчики создали десктопную программу YOLO Annotator для подготовки обучающих выборок без необходимости развертывания сервера. Инструмент поддерживает разметку прямоугольниками, полигонами, OBB, масками, а также семантическую и panoptic-сегментацию. Результаты разметки можно экспортировать в форматы для YOLO, Detectron2 и Mask2Former, а исходный код опубликован под лицензией GPL-3.0.
Дообучение открытой модели на 4 млрд параметров для бизнес-задач на русском языке
Разработчик дообучил открытую LLM на 4 млрд параметров для задач классификации и маршрутизации обращений, потратив несколько сотен рублей на аренду GPU. Модель показала 84,5% точности на целевых задачах и вошла в верхнюю группу бенчмарка в сравнении с YandexGPT, GigaChat и другими аналогами. Исходный код и веса модели опубликованы в открытом доступе.