Тестирование безопасности Fable с помощью расцензуренной модели DeepSeek
Разработчик проверил устойчивость приложения на Fable к автономному взлому с использованием расцензуренной модели DeepSeek. В ходе эксперимента автор протестировал возможности ИИ в пентесте, анализе сервера и планировании кибератак. Опыт показал ограничения подхода защиты кода исключительно через выбор стека технологий.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Влияние выбора метода отсечки на доходность моделей кредитного скоринга
Эксперимент на открытых данных Home Credit показал, что модель с меньшим показателем AUC может приносить больше прибыли при стандартной отсечке по скору. Однако индивидуальная оценка каждого кредита с учетом суммы, срока и калиброванной вероятности дефолта устраняет этот разрыв и максимизирует доход обеих моделей.
Как нейросети OpenAI, Anthropic и Google обращаются с данными пользователей
Условия обработки промптов и файлов в сервисах OpenAI, Anthropic и Google зависят от выбранного тарифа. На основе анализа пользовательских соглашений, инцидентов и исследований сформированы рекомендации для компаний по безопасной передаче информации в нейросети.
Пять открытых ИИ-моделей в качестве локальной альтернативы ChatGPT и Claude
На фоне роста стоимости подписок, лимитов и блокировок коммерческих нейросетей растет интерес к локальным решениям. Рассмотрены пять открытых моделей, способных работать на GPU с объемом памяти от 8 до 32 ГБ. Эти системы позволяют развернуть ИИ на собственном оборудовании или арендованных серверах под различные задачи.
Как ChatGPT и Claude додумывают требования при составлении спецификаций
Анализ 12 прогонов ChatGPT и Claude показал, что языковые модели при составлении спецификаций интеграции могут самостоятельно додумывать часть требований без согласования с заказчиком. Такие скрытые решения несут риски для проектов, что требует проверки сформированных документов до старта разработки.