Опубликованы записи докладов о защите ИИ с PRO DevSecOps Conf 2026
ГК Swordfish Security выложила материалы ежегодной конференции PRO DevSecOps Conf 2026. Доклады посвящены безопасной разработке, защите ИИ-систем в продакшене и соблюдению закона 243-ФЗ об искусственном интеллекте в России.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Методы удаления текстовых водяных знаков из вывода LLM
Разработчики исследуют способы обхода водяных знаков, которые внедряются в сгенерированные тексты такими моделями, как Claude и решениями от OpenAI. В материале рассматриваются вопросы устойчивости меток к рерайтингу другими нейросетями, частичному редактированию и обработке исходного кода.
Использование pre-commit хуков для управления поведением ИИ-агентов
Geoffrey Huntley предложил контролировать работу кодинг-агентов с помощью git pre-commit хуков вместо постоянного обновления инструкций в AGENTS.md. Если агент напрямую обращается к модулям наблюдаемости в обход требуемой библиотеки диагностики, хук блокирует коммит и передает агенту промпт с указанием использовать нужный модуль. Разработчик отмечает, что такой подход помогает автоматически добиваться корректного результата от ИИ.
Запуск локальной LLM Qwen 2.5 14B на домашнем ПК для интерактивного сайта
Автор материала развернул локальную языковую модель Qwen 2.5 14B на домашнем компьютере и интегрировал ее в веб-сайт. Модель используется для имитации цифровой жизни персонажа с собственным характером и полномочиями в рамках проекта INFERNUM.
American Express представила фреймворк для контроля покупок ИИ-агентов
American Express разработала систему, которая гарантирует, что ИИ-агенты совершают покупки только с прямого согласия пользователей. Инициатива направлена на предотвращение финансовых споров и дорогостоящих ошибок по мере роста популярности онлайн-шопинга с использованием ИИ.