Влияние контекста диалога на рекомендации ChatGPT, Perplexity и Алисы AI
Автор протестировал, как предыстория переписки влияет на подбор CRM-систем в ChatGPT, Perplexity и Алисе AI. В ходе эксперимента было проведено 45 диалогов по пяти сценариям, где целевой вопрос задавался сразу или после обсуждения задач компании. Исследование показало зависимость финальных рекомендаций языковых моделей от контекста предварительной беседы.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Где теряется точность видеоаналитики: разбор пайплайна от камеры до CV-модели
Снижение качества видеоаналитики не всегда связано с оптикой, проблемы могут возникать на этапе передачи данных или в архитектуре системы. Начальник конструкторского бюро «Фалькон Тех» Павел Жилин рассмотрел узкие места пайплайна от камеры до CV-модели. Разбор объясняет, в каких случаях ошибки можно устранить настройкой ПО, а когда необходима замена оборудования.
Расчет реальной стоимости секунды ИИ-видео с учетом отбора дублей
При генерации видео с помощью нейросетей фактические затраты часто превышают базовый тариф из-за оплаты отбракованных дублей. Автор предложил методику учета расходов через Python и CSV на примере работы с Gemini API и OpenRouter. Способ позволяет рассчитать итоговую цену принятых секунд по сценам на основе данных реальных проектов.
Изоляция выполнения кода AI-менеджера маркетплейсов в браузере
Разработчики реализовали запуск кода AI-менеджера маркетплейсов внутри Web Worker в браузере владельца, настроив обращение к сервисам через прокси. В статье разбираются ответы песочницы на атаки с инъекциями промптов, статистика с продакшна и сценарии обхода созданной защиты. Решение нацелено на предотвращение доступа ИИ-ассистента к переменным окружения и серверной инфраструктуре.
Как объединить конечный автомат и LLM для удешевления диалогового агента
Представлен подход к созданию агента, где логику маршрута ведет конечный автомат, а LLM отвечает за понимание реплик и генерацию текста. За счет ограничения числа вызовов недорогой модели стоимость одного диалога составила около трех рублей. Решение протестировали в ходе пилотного проекта с участием 88 пользователей.