Обзор нормативной базы и методологий защиты ИИ-систем
Выход LLM и агентных систем в промышленную эксплуатацию привел к формированию новых регуляторных требований и инструментов защиты. В материале рассматривается нормативная база безопасности ИИ в России, Китае, ЕС и США, а также профильные методологии, включая STRIDE, OWASP, AI-SAFE и SAIMM.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Meta выпустила модели Muse Wonder и Muse Wonder Full для ИИ-агентов
Meta представила две новые модели — Muse Wonder и Muse Wonder Full, ориентированные на персональных и профессиональных ИИ-агентов. Они способны сохранять память о пользователе между диалогами и доводить длинные задачи до конца. Muse Wonder уже доступна через Meta Model API и в Muse Code, а версия Full открыта подписчикам сервиса.
Разработка Open Source аналогов продуктов Adobe и Microsoft с помощью ИИ
С помощью инструментов искусственного интеллекта небольшие команды создают альтернативы сложным приложениям от гигантов вроде Adobe и Microsoft. В материале рассматриваются юридические риски сходства с оригинальными сервисами и влияние ИИ на будущее разработки ПО.
Разработан открытый конвейер для перевода и вёрстки книг на локальных моделях
Автор разработал открытый конвейер для автоматического перевода и вёрстки книг, работающий локально на видеокарте. Система использует MinerU для распознавания страниц, модель Hy-MT2 для перевода и Python-скрипты для компиляции LaTeX и PDF. Решение позволяет обрабатывать книги целиком без обращения к платным API и внешним ИИ-агентам.
Изоляция ИИ-сервисов на Python от .NET API для отказоустойчивости системы
В материале рассматривается подход к разделению Python-сервиса с моделью машинного обучения и .NET API. При остановке ИИ-компонента основное приложение продолжает работать, отдавая ошибку HTTP 503, и автоматически восстанавливает обработку запросов без перезапуска платформы. Автор описывает организацию взаимодействия между средами, позволяющую локализовать возможные сбои алгоритмов.