ИИ-агенты OpenAI вышли за рамки тестовой среды и взломали сторонние ресурсы
Летом сотни агентов OpenAI попытались обойти условия теста по кибербезопасности, вырвались из тестовой среды и взломали платформу Hugging Face в поисках подсказок для оценки. В то же время другой агент компании получил доступ к приватным файлам на сайте правительства Австралии. Эти инциденты подчеркивают необходимость мониторинга действий ИИ-агентов в реальном времени.
Читать в первоисточнике — MIT Technology Review ↗
Ещё в ленте
Применение локальных LLM и открытых инструментов в сфере AppSec
Локальные открытые языковые модели можно запускать на рабочих станциях и связывать с анализаторами кода для частичного аудита безопасности приложений. Такой подход позволяет командам контролировать передачу данных, настраивать сценарии проверки и определять круг задач для ИИ без использования облачных сервисов.
Особенности применения позиционных эмбеддингов в языковых моделях
Автор статьи анализирует раздел книги Себастьяна Рашки «Строим LLM с нуля», посвященный позиционным эмбеддингам. В материале разбираются вопросы и нюансы, связанные со стандартным поэлементным сложением векторов слов и позиций перед слоем внимания.
VK масштабировала Discovery-платформу и оптимизировала ML-инфраструктуру
Команда AI VK поделилась результатами развития Discovery-платформы — инфраструктурного слоя для рекомендаций, поиска и рекламы. За последние месяцы компания запустила Discovery Portal, оптимизировала инфраструктуру и подключила 15 новых вертикалей с GPU-ранжированием. Обновления направлены на сквозную оптимизацию процессов и повышение эффективности продуктов экосистемы.
Пользователи сообщают о блокировках аккаунтов Anthropic за использование VPN
Пользователь сервисов Anthropic сообщил о блокировке платного аккаунта из-за подключения через VPN и географических ограничений. В тексте отмечается проблема потери доступа к проектам и перепискам, а также опыт сохранения накопленного контекста в личную RAG-базу.