Руководство по созданию безопасного сборщика промптов для LLM
Опубликована шпаргалка из 20 пунктов по обеспечению безопасности кода сборщика промптов для систем на базе LLM. В материале рассматриваются риски пропуска чужих ролей, невидимых символов и поддельной истории диалога, которые невозможно нейтрализовать только системным промптом.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
ALTK-Evolve занял первое место в бенчмарке τ²-bench с помощью обучаемой памяти
Система ALTK-Evolve продемонстрировала лидерство в бенчмарке τ²-bench, предназначенном для оценки задач клиентского сервиса. Высоких показателей удалось достичь за счет использования обучаемой памяти без применения передовых моделей класса frontier.
Spotify убрал из рекомендаций более 50 млн спам-треков, созданных ИИ
Spotify сообщил, что за последний год удалил из пользовательских рекомендаций свыше 50 миллионов треков, классифицированных как спам или сгенерированный ИИ контент. Компания также внесла изменения в алгоритмы системы рекомендаций, чтобы активнее продвигать музыку, созданную реальными исполнителями.
Сооснователь Figma Дилан Филд назвал протокол MCP несовершенным
Сооснователь Figma Дилан Филд выразил мнение, что протокол MCP не идеален. При этом компания планирует обеспечивать поддержку максимально возможного числа стандартов, не раскрывая все свои данные.
AI-агенты принесли компании 350 тысяч рублей, но потребовали смены архитектуры
Система AI-агентов за два месяца принесла компании около 350 тысяч рублей дополнительного дохода, автономно выполняя задачи в реальных коммерческих проектах. Несмотря на коммерческий успех эксперимента, автор посчитал архитектуру недостаточно надежной и начал разработку новой системы.