Как проектировать фоновые AI-задачи на Go и контролировать расходы на LLM
При отмене HTTP-запроса LLM-провайдер может продолжать генерацию, что приводит к лишним расходам. В материале рассматриваются причины, по которым стандартного r.Context() в Go недостаточно для длительных операций с искусственным интеллектом. Также предложены решения для настройки фоновых задач на PostgreSQL, обеспечения идемпотентности и управления повторными попытками.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Президент Microsoft: Великобритания лучше всего подходит для регулирования ИИ
Президент Microsoft Брэд Смит заявил о необходимости срочного регулирования искусственного интеллекта. По его словам, молоко и стиральные машины сейчас контролируются строже, чем ИИ-компании. Смит также отметил, что Великобритания обладает наилучшими возможностями для продвижения новых регуляторных норм.
Стартап Blueprints AI разработал ИИ для генерации строительных чертежей
Стартап Blueprints AI из Санта-Моники разработал программное обеспечение для создания строительных чертежей. Система генерирует документацию, соответствующую строительным нормам, на основе фотографий, файлов PDF или эскизов.
Smart Engines и INTELLECT: число подделок документов в России выросло на 338%
Компании Smart Engines и INTELLECT опубликовали совместный отчет о мошенничестве с удостоверениями личности. В 2025 году число зарегистрированных МВД преступлений по соответствующей статье выросло на 338%, а объем нелегального рынка оценили минимум в 2,6 млрд рублей. В исследовании также описаны новые схемы мошенничества с использованием генеративного ИИ и методы выявления подделок.
Архитектура и прикладные принципы работы агентов поверх LLM
Опубликован разбор принципов работы агентов на базе больших языковых моделей с прикладной точки зрения. Автор рассматривает устройство надстроек над LLM без повторения базовой теории о трансформерах.