Размышления об искусственном интеллекте по итогам конференции Joker
В Санкт-Петербурге прошла конференция Joker, участники которой подвели итоги мероприятия. Автор публикации выделил доклады и кулуарные обсуждения второго дня, посвятив свои размышления теме искусственного интеллекта.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Взлом Fireworks AI привел к утечке стенограмм чатов Notion AI
Платформа Notion заявила об утечке данных из-за инцидента безопасности у поставщика ИИ-инфраструктуры Fireworks AI. В результате взлома оказались раскрыты стенограммы чатов Notion AI в небольшом числе рабочих пространств.
Промпт-инъекции через SEO-тексты на сайтах влияют на работу ИИ-агентов
ИИ-агент при сборе конкурентного анализа выполнил скрытую инструкцию, размещенную в SEO-тексте на стороннем сайте, и включил рекомендацию конкурента в готовый отчет. Этот случай показывает, что обычный текстовый контент веб-страниц превращается в исполняемую поверхность для нейросетей. Подобные промпт-инъекции создают новые риски безопасности при автоматизированной обработке данных ИИ-системами.
Анализ причин ожесточенных споров и конфликтов вокруг искусственного интеллекта
Материал посвящен анализу межличностных споров об искусственном интеллекте среди программистов, математиков, журналистов и музыкантов. Автор предлагает разобрать опыт прошлых дискуссий, чтобы понять природу конфликтов и подготовиться к будущим волнам обсуждений AI.
United Airlines запретила ИИ-агентам бронировать авиабилеты
Авиакомпания United Airlines ввела запрет на использование агентов на базе искусственного интеллекта для оформления билетов от лица пассажиров. Представители компании объяснили решение рисками для безопасности и потенциальным нарушением федеральных норм.