Как сокращать промпты без заметной потери качества ответов моделей
Исследования показывают, что длинные промпты с ролями и контекстом можно сократить в разы без заметного ущерба для качества ответа. В материале разбирается, какие инструкции необходимы модели для корректной работы, а без каких подробностей она способна обойтись.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Audible представил ИИ-синопсисы для помощи в выборе аудиокниг
Audible запустил новую функцию на базе искусственного интеллекта для подбора аудиокниг. Инструмент формирует описания, объединяя аудиосэмплы, ИИ-обзоры и авторские комментарии. Это поможет пользователям оценить книгу и принять решение о прослушивании до ее покупки или запуска.
Новые функции Ask Maps помогут спланировать праздничные поездки
Google представила новые функции инструмента Ask Maps для подготовки и организации праздничных поездок. Детали и подробности обновления в опубликованном анонсе пока не раскрываются.
Способ сокращения контекста кодовой базы для LLM без векторного поиска
Разработан подход к отбору файлов для ИИ-агентов без применения машинного обучения и векторных баз данных. Решение на базе PHP, SerenaDB и частотного анализа TF-IDF позволяет сократить до 98% лишнего контекста при отправке запросов в LLM.
Представлен ИИ-тренажер судебного процесса ChatCourt
Разработан ИИ-тренажер ChatCourt, моделирующий судебный процесс. Автор публикации обращает внимание на распространение практики использования нейросетей как преподавателями, так и студентами в учебном процессе, отмечая неэффективность запретов чат-ботов.