Как ChatGPT и Claude додумывают требования при составлении спецификаций
Анализ 12 прогонов ChatGPT и Claude показал, что языковые модели при составлении спецификаций интеграции могут самостоятельно додумывать часть требований без согласования с заказчиком. Такие скрытые решения несут риски для проектов, что требует проверки сформированных документов до старта разработки.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Как нейросети OpenAI, Anthropic и Google обращаются с данными пользователей
Условия обработки промптов и файлов в сервисах OpenAI, Anthropic и Google зависят от выбранного тарифа. На основе анализа пользовательских соглашений, инцидентов и исследований сформированы рекомендации для компаний по безопасной передаче информации в нейросети.
Пять открытых ИИ-моделей в качестве локальной альтернативы ChatGPT и Claude
На фоне роста стоимости подписок, лимитов и блокировок коммерческих нейросетей растет интерес к локальным решениям. Рассмотрены пять открытых моделей, способных работать на GPU с объемом памяти от 8 до 32 ГБ. Эти системы позволяют развернуть ИИ на собственном оборудовании или арендованных серверах под различные задачи.
Тестирование безопасности Fable с помощью расцензуренной модели DeepSeek
Разработчик проверил устойчивость приложения на Fable к автономному взлому с использованием расцензуренной модели DeepSeek. В ходе эксперимента автор протестировал возможности ИИ в пентесте, анализе сервера и планировании кибератак. Опыт показал ограничения подхода защиты кода исключительно через выбор стека технологий.
Шесть прикладных курсов по ИИ от Google, Anthropic и OpenAI
Представлена подборка из шести курсов от Google, Anthropic и OpenAI, объединенных в трехэтапный образовательный маршрут. Программа выстроена от базовых методов работы с нейросетями до создания сложных агентов для решения рабочих задач. Материалы ориентированы на прикладное использование ИИ без погружения в университетскую математику и статистику.