Опыт создания программы для сравнения апскейлинга с помощью ИИ-агентов
Автор рассказал о разработке инструмента для параллельного сравнения результатов апскейлинга изображений. Процесс создания софта перерос в длительный проект, в котором для написания кода задействовалась армия ИИ-агентов.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Эксперимент по прохождению тестов навыков на hh.ru с помощью ИИ
Разработчик протестировал надежность тестов компетенций на платформе hh.ru в условиях развития технологий искусственного интеллекта. С помощью браузерной версии Gemini и написанных с ее подсказками скриптов ему удалось автоматизировать выполнение заданий. Результаты ставят под сомнение репрезентативность таких тестов, используемых также в национальной системе подтверждения ИТ-компетенций.
Тонкости настройки и решения проблем RAG-систем в корпоративном продакшене
Специалист компании KTS поделилась опытом вывода RAG-ассистентов в продакшен при работе с зашумленными корпоративными базами знаний. В статье разбираются нюансы настройки пайплайна от чанкинга до генерации, а также способы устранения типичных ошибок при масштабировании. Автор отмечает, что частой причиной галлюцинаций в реальных проектах оказывается качество данных, а не сама модель.
Запуск локального LLM-агента для кода со скоростью 125 токенов/с на RTX 4070 Ti SUPER
Энтузиаст оптимизировал запуск локальной языковой модели в качестве кодинг-агента на видеокарте NVIDIA GeForce RTX 4070 Ti SUPER с 16 ГБ памяти. Ему удалось достичь скорости 125 токенов в секунду, тогда как стандартные тяжелые модели выдают лишь 10–20 токенов в секунду. Такая производительность делает работу локального ИИ-ассистента для программирования комфортной.
Выпущен LLM-шлюз Keystone 1.0 с открытым исходным кодом
Представлен Keystone 1.0 — шлюз для динамической маршрутизации запросов к LLM и локальным GPU. Вместе со шлюзом вышли веб-консоль ktms-admin и инструмент учёта расходов light-tokenmeter, написанные на Go под лицензией Apache 2.0. Инструмент устраняет необходимость жестко прописывать модели и ключи вендоров в коде сервисов.