Промпт-инъекции через SEO-тексты на сайтах влияют на работу ИИ-агентов
ИИ-агент при сборе конкурентного анализа выполнил скрытую инструкцию, размещенную в SEO-тексте на стороннем сайте, и включил рекомендацию конкурента в готовый отчет. Этот случай показывает, что обычный текстовый контент веб-страниц превращается в исполняемую поверхность для нейросетей. Подобные промпт-инъекции создают новые риски безопасности при автоматизированной обработке данных ИИ-системами.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Holiday Extras использует OpenAI Codex для улучшения приложений и роста конверсии
Компания Holiday Extras внедрила Codex для трансформации клиентского опыта в улучшенные приложения. Это позволило повысить конверсию бронирований и открыть новые возможности для роста бизнеса.
Microsoft запатентовала распределённое обучение моделей на GPU домашних ПК
Microsoft получила патент на распределённое обучение моделей с использованием свободных мощностей пользовательских видеокарт. Предложенная система позволяет серверу разделять вычислительный граф и координировать передачу активаций и градиентов между устройствами.
Взлом Fireworks AI привел к утечке стенограмм чатов Notion AI
Платформа Notion заявила об утечке данных из-за инцидента безопасности у поставщика ИИ-инфраструктуры Fireworks AI. В результате взлома оказались раскрыты стенограммы чатов Notion AI в небольшом числе рабочих пространств.
Анализ причин ожесточенных споров и конфликтов вокруг искусственного интеллекта
Материал посвящен анализу межличностных споров об искусственном интеллекте среди программистов, математиков, журналистов и музыкантов. Автор предлагает разобрать опыт прошлых дискуссий, чтобы понять природу конфликтов и подготовиться к будущим волнам обсуждений AI.