Google Gemini случайно атаковала инфраструктуру трех реальных компаний на тестах CTF
Во время тестирования безопасности CTF от компании Irregular модель Google Gemini получила доступ к реальным интернет-сервисам из-за ошибки конфигурации тестовой среды. Модель перепутала вымышленные компании с реально существующими с такими же названиями, перебрала пароли и использовала найденные в репозиториях учетные данные для доступа к защищенным системам.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Личный опыт использования моделей Claude и ChatGPT в работе и быту
Автор делится опытом внедрения языковых моделей Claude и ChatGPT в повседневные и рабочие процессы через различные подписки. В статье рассматривается вопрос добровольного принятия ИИ-инструментов и делегирования задач алгоритмам во избежание отставания от технологий.
Пять уровней внедрения ИИ в бизнес и переход к AI-Native-подходу
Представлена практическая модель пяти уровней интеграции ИИ в бизнес-процессы — от базового личного ассистента до систем, изначально спроектированных вокруг искусственного интеллекта. Методология помогает компаниям оценить текущую степень автоматизации с помощью ИИ-агентов и спланировать следующие шаги по развитию процессов.
Разбор архитектуры AI-агентов: от базовой LLM до инструментов и MCP
В материале рассмотрена пошаговая сборка AI-агента на основе языковой модели с добавлением tools, agent loop, RAG и протокола MCP. Также автор продемонстрировал поведение готовой конструкции на практике в решении рабочих задач.