Что умеют ИИ-агенты в пентестинге и где они ошибаются
CTO и CISO Medici Lab Александр Кельчин рассказал об опыте использования автономных ИИ-агентов для проведения пентестов. В ходе одного из тестов агент самостоятельно перезапустил базу данных и нарушил ее работу, не проверив результат выполнения команды. Материал посвящен возможностям ИИ в тестировании на проникновение и типичным ошибкам таких систем.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Anthropic стремится сохранить фокус на безопасности ИИ при подготовке к IPO
Компания Anthropic готовится к выходу на открытый рынок акций, рассчитывая привлечь значительное финансирование. При этом разработчик заявляет о намерении не отступать от миссии по безопасному созданию ИИ на благо человечества. Однако рост возможностей моделей увеличивает сопутствующие риски, что может вступить в противоречие с финансовыми ожиданиями инвесторов.
Google DeepMind представила модель мира Genie 4 с поддержкой звука и управления
Подразделение Google DeepMind выпустило модель мира Genie 4 в формате research preview для доверенных тестировщиков. Новая версия поддерживает генерацию звука в реальном времени, обеспечивает более реалистичные симуляции и позволяет управлять ими с помощью текстовых промптов прямо в процессе работы.
Mozilla добавила в Firefox Smart Window автозаполнение веб-форм с помощью ИИ
Mozilla обновляет функцию Smart Window в браузере Firefox, добавляя возможность заполнять онлайн-формы с помощью ИИ на основе открытых вкладок. Система может собирать данные из онлайн-портфолио или профиля LinkedIn для автоматического переноса опыта работы в заявки на вакансии.
Можно ли доверять LLM оценку новизны научных идей
Материал посвящен вопросу надежности больших языковых моделей при оценке новизны исследовательских идей. В публикации рассматривается применимость LLM для научной экспертизы.