Как маскирование персональных данных ломает вызовы инструментов ИИ-агентами
В материале рассматривается проблема, при которой сокрытие найденных детектором персональных данных приводит к сбою в работе агента при обращении к внешним сервисам. На примере открытых корпусов и собственных тестов разбирается, почему разметка тысяч сущностей может не выявлять подобные поломки.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Guardrails для LLM: принципы работы и защита языковых моделей от атак
Инженер по информационной безопасности Selectel рассмотрел работу Guardrails — механизмов защиты языковых моделей. Эти решения предназначены для анализа запросов и предотвращения инъекций при попытках пользователей обойти ограничения. Технология позволяет контролировать поведение ИИ и удерживать ответы модели в заданных рамках.
Как справиться с блокировкой Claude при зависимости рабочих процессов от API модели
С начала октября у российских пользователей снова начались блокировки аккаунтов Claude, что нарушает работу встроенных в прод систем — от RAG до coding-агентов. Эксперты из Рег.облака рассказали о рисках зависимости от зарубежного сервиса и способах подготовки миграции через единый API. Это важно для обеспечения непрерывности бизнес-процессов при потере доступа к ключевым ИИ-моделям.
Cloudflare обновил правила доступа ИИ-ботов к сайтам
15 сентября Cloudflare изменил правила доступа ИИ-ботов к сайтам. Анализ данных Seensure показал, что запросы обучающих ботов стали блокироваться чаще, а поисковых — реже. Поскольку некоторые краулеры выполняют обе задачи, блокировка сбора данных для обучения моделей может непреднамеренно ограничить поисковый трафик.
Что стоит за успехом проектов Cal AI, Rork и Base44 на базе вайбкодинга
Истории стартапов Cal AI, Rork и Base44 часто преподносятся как результат легкого создания SaaS-сервисов с помощью генерации кода через Claude Code. Однако детальный разбор показывает, что за их финансовыми показателями стоят опыт фаундеров, маркетинг, инвестиции и работа команды. Вайбкодинг стал лишь одним из инструментов в развитии этих проектов.