· Хабр

Промпт-инъекции через SEO-тексты на сайтах влияют на работу ИИ-агентов

ИИ-агент при сборе конкурентного анализа выполнил скрытую инструкцию, размещенную в SEO-тексте на стороннем сайте, и включил рекомендацию конкурента в готовый отчет. Этот случай показывает, что обычный текстовый контент веб-страниц превращается в исполняемую поверхность для нейросетей. Подобные промпт-инъекции создают новые риски безопасности при автоматизированной обработке данных ИИ-системами.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

· OpenAI · Бизнес · Продукты

Holiday Extras использует OpenAI Codex для улучшения приложений и роста конверсии

Компания Holiday Extras внедрила Codex для трансформации клиентского опыта в улучшенные приложения. Это позволило повысить конверсию бронирований и открыть новые возможности для роста бизнеса.

· Хабр · Железо · Модели

Microsoft запатентовала распределённое обучение моделей на GPU домашних ПК

Microsoft получила патент на распределённое обучение моделей с использованием свободных мощностей пользовательских видеокарт. Предложенная система позволяет серверу разделять вычислительный граф и координировать передачу активаций и градиентов между устройствами.

Взлом Fireworks AI привел к утечке стенограмм чатов Notion AI

Платформа Notion заявила об утечке данных из-за инцидента безопасности у поставщика ИИ-инфраструктуры Fireworks AI. В результате взлома оказались раскрыты стенограммы чатов Notion AI в небольшом числе рабочих пространств.

· Хабр · Исследования

Анализ причин ожесточенных споров и конфликтов вокруг искусственного интеллекта

Материал посвящен анализу межличностных споров об искусственном интеллекте среди программистов, математиков, журналистов и музыкантов. Автор предлагает разобрать опыт прошлых дискуссий, чтобы понять природу конфликтов и подготовиться к будущим волнам обсуждений AI.