Анализ рисков и математических ограничений использования ИИ в судебной системе
Специалист по безопасности рассчитал риски внедрения систем распознавания лиц и алгоритма COMPAS в правосудие. Расчеты показали, что даже при уровне ошибок в 0,1% в мегаполисе система почти всегда будет указывать на невиновного. Также в материале рассмотрены реальные прецеденты ошибочных арестов и поведение языковых моделей на тестах.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
10 мифов о GEO: что не работает при продвижении сайтов под нейросети
На рынке оптимизации контента под ответы нейросетей (GEO) появилось множество неэффективных практик и мифов вроде особых ключевых слов или гарантий попадания в рекомендации. В материале разбираются распространенные заблуждения, мешающие трезво оценивать результаты и приводящие к нецелевым тратам. Также предложен базовый план действий, сосредоточенный на реальной технической доступности сайта для роботов.
LLM предложили рассматривать как смысловые системы в рамках теории Лумана
В эссе предложено расширить понятие смысла теории Никласа Лумана на LLM-системы, выделив их в отдельный тип лумановских систем через семантические векторы. Автор показывает, что выбор следующих состояний беседы в языковых моделях соответствует лумановской теории смысла. Такой подход предлагает новый философский аппарат для описания работы LLM без сведения их к дихотомиям сознания или имитации.
Ансамблевое прогнозирование с помощью моделей временных рядов IBM Granite
Представлены методы ансамблевого прогнозирования на базе моделей временных рядов линейки IBM Granite. Рассматриваемый подход позволяет применять модели семейства Granite для анализа и предсказания временных данных.
Влияние выбора метода отсечки на доходность моделей кредитного скоринга
Эксперимент на открытых данных Home Credit показал, что модель с меньшим показателем AUC может приносить больше прибыли при стандартной отсечке по скору. Однако индивидуальная оценка каждого кредита с учетом суммы, срока и калиброванной вероятности дефолта устраняет этот разрыв и максимизирует доход обеих моделей.