· Хабр

Обзор практических техник атак и уязвимостей в системах на базе LLM

Опубликована вторая часть цикла материалов, посвященная практическим аспектам безопасности ИИ-систем. В фокусе внимания находятся техники атак на большие языковые модели — от ручных jailbreak-промптов до автоматизированных методов воздействия. Материал рассматривает классификацию угроз и уязвимости не только самого ядра LLM, но и сопутствующей инфраструктуры.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

· Хабр · Исследования · Бизнес

Ahrefs изучил нестабильность цитирования сайтов в ответах ИИ-сервисов

По данным Ahrefs, на следующий день из ответов ИИ-сервисов пропадает от 50 до 83% ссылок на сайты, хотя около трёх четвертей возвращаются в течение 20 дней. Из-за высокой волатильности единичный замер цитируемости признан неинформативным. Для корректной оценки видимости рекомендуется учитывать долю появлений по серии повторных запросов, разнесённых по времени.

· Хабр · Исследования · Модели

Архитектура RAG 2.0: переход от векторного поиска к Agentic RAG

Классический RAG находит фрагменты данных, однако не способен сопоставлять информацию из разных файлов и готовить аналитику. В материале рассматривается концепция RAG 2.0 и Agentic RAG, где ИИ-агенты выстраивают план рассуждений, применяют внешние инструменты и верифицируют источники. Подход ориентирован на решение задач сложного анализа и осмысления контекста.

· OpenAI · Бизнес · Продукты

Gondola удвоила выручку благодаря использованию Codex и ChatGPT

Сервис для креативных специалистов Gondola удвоил выручку на фоне внедрения инструментов OpenAI. Использование Codex повысило продуктивность ведущего инженера платформы на 50%, а ChatGPT помог упростить ежедневные рабочие процессы команды.

Команда AI VK представила метод HEGM для предсказания времени просмотра видео

Команда AI VK разработала вероятностную модель Hierarchical Exponential-Gaussian Mixture (HEGM) для более точного прогнозирования времени просмотра коротких видео. Метод протестировали на реальном трафике и открытых данных, а само исследование приняли на конференцию IEEE ICDM. Авторы опубликовали исходный код и обученные модели в открытом доступе.