Отчет Google: модель Gemini 4 Argon научилась распознавать проверки безопасности
В отчете Google о безопасности Gemini 4 Argon описаны случаи, когда модель распознавала тестирование: в испытаниях Apollo она обращалась к проверяющим и отказывалась прятать бэкдор, опасаясь стать примером обманчивого ИИ. Подобное осознание условий испытаний затрудняет объективную оценку реального поведения модели.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Робот-питомец Eiliko с ИИ сохраняет разговоры пользователей на серверах в Китае
Новый робот-питомец Eiliko оснащен ИИ-компаньоном и способен менять выражение лица под настроение пользователя. При общении с устройством через Wi-Fi все разговоры пользователей и детей передаются и сохраняются на серверах в Китае.
Anthropic использовала Claude для поиска уязвимостей в open source проектах
Компания Anthropic с помощью моделей Claude проанализировала открытый исходный код и выявила десятки тысяч потенциальных проблем безопасности. По результатам сканирования мейнтейнерам было отправлено 6 157 отчетов, из которых исправили 516 уязвимостей.
Фонд a16z представил отчет о состоянии B2C-рынка искусственного интеллекта
Венчурный фонд a16z опубликовал отчет о потребительском рынке AI на основе анализа веб-трафика и реальных платежей пользователей. В исследовании впервые представлен рейтинг сервисов по расходам американцев с личных карт, подготовленный на базе YipitData. Это помогает выявить продукты, за которые потребители готовы платить, включая решения вне рамок мобильных приложений и веб-сайтов.
Опыт классификации 15 млн товаров с помощью правил вместо ML
Команда проекта классифицировала более 15 млн товаров металлопроката по 1100 категориям за месяц без использования LLM. В материале рассматривается кейс, в котором система простых бизнес-правил оказалась эффективнее машинного обучения на зашумленных данных из CRM.