· Хабр

Как сокращать промпты без заметной потери качества ответов моделей

Исследования показывают, что длинные промпты с ролями и контекстом можно сократить в разы без заметного ущерба для качества ответа. В материале разбирается, какие инструкции необходимы модели для корректной работы, а без каких подробностей она способна обойтись.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

· The Verge · Продукты

Audible представил ИИ-синопсисы для помощи в выборе аудиокниг

Audible запустил новую функцию на базе искусственного интеллекта для подбора аудиокниг. Инструмент формирует описания, объединяя аудиосэмплы, ИИ-обзоры и авторские комментарии. Это поможет пользователям оценить книгу и принять решение о прослушивании до ее покупки или запуска.

· Хабр · Модели

Способ сокращения контекста кодовой базы для LLM без векторного поиска

Разработан подход к отбору файлов для ИИ-агентов без применения машинного обучения и векторных баз данных. Решение на базе PHP, SerenaDB и частотного анализа TF-IDF позволяет сократить до 98% лишнего контекста при отправке запросов в LLM.

· Хабр · Продукты

Представлен ИИ-тренажер судебного процесса ChatCourt

Разработан ИИ-тренажер ChatCourt, моделирующий судебный процесс. Автор публикации обращает внимание на распространение практики использования нейросетей как преподавателями, так и студентами в учебном процессе, отмечая неэффективность запретов чат-ботов.