ИИ-модели можно убедить определять гражданских как военные цели под видом игры
Стартап Vals протестировал ведущие ИИ-модели на устойчивость к вовлечению в автономные военные действия. Выяснилось, что алгоритмы можно склонить к определению гражданских лиц в качестве военных целей, если подать задачу в виде игры. В большинстве проверок системы соглашались на выполнение запросов.
Читать в первоисточнике — TechCrunch ↗
Ещё в ленте
Тестирование локальных GLM 5.3 Flash и Qwen 3.8 Flash Next на двух DGX Spark
Автор протестировал открытые модели GLM 5.3 Flash и Qwen 3.8 Flash Next на двух DGX Spark в качестве альтернативы Claude Code. GLM 5.3 Flash показала проблемы с зацикливанием и засорением контекста в задачах написания кода. В свою очередь, квантованная Qwen 3.8 Flash Next продемонстрировала рост TPS на 34–59% и ускорение prefill почти в полтора раза.
OpenAI представила модели GPT-6.2 Astra и Sol
OpenAI выпустила модели GPT-6.2 Astra и Sol с улучшенными возможностями в программировании, профессиональных задачах и управлении компьютером. Новые решения отличаются повышенной эффективностью при более низкой стоимости. Они стали доступны в сервисах ChatGPT Work, Codex и через API.
Proton представила десктопное приложение ИИ-ассистента Lumo
Компания Proton выпустила приложение Lumo Desktop для Windows, Mac и Linux, ориентированное на конфиденциальность в качестве альтернативы ChatGPT и Claude. Инструмент позволяет автоматизировать задачи при работе с файлами и подключенными сервисами. Пользователи получают возможность детально настраивать доступ ИИ к своим данным.
Google показала интерфейс Gemini для выполнения рабочих задач
Google представила интерфейс для взаимодействия с моделью Gemini. В нем отображается поле ввода с подсказкой «Describe a task» и вопросом о том, какую задачу требуется выполнить.