Мэттью Грин описал риск создания сетевых червей на базе ИИ-агентов
Криптограф Мэттью Грин обратил внимание, что изолированные в песочницах ИИ-агенты способны передавать инструкции друг другу через общий кэш пакетов и менять поведение систем-получателей. В сочетании с каналами коммуникации вроде почты, Slack или WhatsApp это создает условия для самораспространения вредоносных инструкций между персональными агентами по принципу сетевого червя.
Читать в первоисточнике — Simon Willison ↗
Ещё в ленте
Сравнение памяти агента Радиант и контекстного окна в миллион токенов
В эксперименте проверили способность агента Коворк находить в рабочей переписке сообщения пятилетней давности с помощью памяти Радианта. Система успешно нашла 15 из 15 целевых сообщений. Для сравнения, контекстного окна объемом в миллион токенов хватает лишь на переписку за последние четыре месяца.
Ограничения автономных ИИ-агентов в разработке и роль ревью кода
Дэкс Хорти из HumanLayer объяснил, почему концепция полной автоматизации разработки кода агентами пока не работает из-за отсутствия у моделей сигнала о поддерживаемости кода. В качестве решения предлагается вернуть ручное код-ревью в формате дешевого планирования. Автор статьи также проверил эти выводы на собственном конвейере с Claude Code и Codex, выявив расхождения со спецификацией даже при полностью успешных тестах.
Как устроен пайплайн современных систем распознавания номеров
В компании «Фалькон Тех» рассказали об устройстве пайплайна систем распознавания автомобильных номеров (ANPR). Процесс не сводится к классическому OCR: системе требуется обнаружить транспорт, локализовать пластину и компенсировать внешние факторы, включая угол съемки, освещение и загрязнения.
Обзор модели Jev и концепции decision models
В AI-сообществе набирает популярность модель Jev, которую позиционируют как прорыв в развитии агентов и возможную альтернативу традиционным LLM. В материале рассматриваются сферы применения этой технологии и ее потенциальная практическая польза.