Проблемы оценки важности признаков с помощью MDI, Permutation Importance и SHAP
Методы оценки важности признаков, включая MDI, Permutation Importance и SHAP, могут приписывать случайному шуму больший вес, чем реальным факторам, и искажать значимость коррелированных данных. В материале на синтетических примерах разбираются причины появления таких ошибок в графиках feature_importances_. Анализ помогает корректно выявлять шум и учитывать корреляции, избегая неверных решений при отборе признаков.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Lenta Tech запустила MCP-сервер для покупок через ИИ-помощников
Команда Lenta Tech подключила официальный MCP-сервер, который позволяет нейросетям обращаться к каталогу товаров сети «Лента». Пользователи могут искать продукты прямо через диалог с ИИ в приложениях с поддержкой протокола MCP. Интеграция выполняется добавлением адреса сервера в клиентскую программу.
Анализ поверхности атаки и AI Red Team для защиты приложений на базе LLM
С появлением приложений на базе LLM для обеспечения безопасности требуется не только проверка кода и инфраструктуры, но и тестирование работающего AI-интерфейса. AI Red Team проверяет поведение модели под воздействием атакующих запросов и измеряет устойчивость к нежелательному контенту. Такой подход позволяет отслеживать регрессии между версиями и встраивать защиту ИИ-функций в инженерный цикл разработки.
Anthropic запустила бета-тест Claude Meetings для Google Meet
Anthropic начала бета-тестирование функции Claude Meetings, которая подключает ассистента к видеозвонкам отдельным участником. Во время созвона агент следит за разговором, конспектирует его и выполняет поручения в реальном времени. На текущий момент сервис работает только с Google Meet.
Sandflow выпустила открытый датасет Sand3D из 106 тысяч 3D-моделей
Французский стартап Sandflow представил Sand3D — открытый датасет из 106 тысяч 3D-моделей различных объектов. Каждая модель снабжена Python-кодом для ее пошаговой сборки из независимых деталей. Датасет предназначен для обучения нейросетей созданию и редактированию 3D-контента.