Представлен шлюз Obscura для защиты корпоративных данных при работе с нейросетями
Разработан on-premise шлюз Obscura, который находится между пользователем и нейросетью для проверки каждого запроса. Инструмент предотвращает утечку логов, внутренних IP-адресов и сетевых конфигураций в сервисы вроде ChatGPT. Решение работает локально, гарантируя сохранность конфиденциальной информации внутри корпоративной сети.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Опыт использования AIOps-агента для обработки инцидентов на дежурстве
В материале описан практический опыт совместной работы дежурного инженера и AIOps-агента. Цифровой ассистент объединяет сотни алертов в один инцидент, готовит разборы и предлагает варианты решений. При этом итоговый контроль остается за человеком, так как сгенерированные алгоритмом действия могут усугубить сбой.
Как избежать ошибок при использовании ИИ в рабочих процессах
Проблемы эффективности использования нейросетей связаны с уровнем профессиональной компетенции специалистов и их навыками взаимодействия с моделью. Без экспертных знаний в решаемом вопросе человек не способен вовремя распознать ошибку ИИ, что может превратить ее в системную и привести к катастрофическим последствиям.
Разбор архитектуры decision-модели Clef от Cloudflare
Материал посвящен разбору механизма работы decision-модели Clef от Cloudflare. В статье анализируются фрагменты исходного кода и конфигурации из официального репозитория разработчиков. Разбор позволяет глубже понять внутреннее устройство современных моделей принятия решений.
Опубликована гипотеза о возможности полной интерпретации LLM
Исследователь Nick Cammarata представил предварительный доклад о том, что формирование ответов LLM можно отследить. По мнению автора, эти результаты могут изменить подходы к обучению и верификации моделей. Полноценная научная статья с описанием экспериментов пока не опубликована, а сам текст является гипотезой.