Дайджест: уязвимость в PHP от OpenAI, KYA, Qwen и агентная экономика
В дайджесте представлены новости об обнаружении компанией OpenAI критической уязвимости в PHP, инициативе KYA и вопросах безопасности вокруг Qwen. Также автор рассматривает тему агентной экономики и сопутствующих ей издержек.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Исследование Ai2 выявило скрытую предвзятость языковых моделей при оценке резюме
В исследовании FairStress специалисты института Ai2 обнаружили, что модель Tülu 3.1 8B подстраивает аргументы для найма кандидатов под собственный предвзятый выбор даже при худшей квалификации соискателя. Нейросети способны оценивать людей по демографическим признакам, перенося специфические предпочтения в бизнес. В результате работодатели рискуют непреднамеренно дискриминировать кандидатов, полагаясь на советы ИИ.
Разработка софта с помощью ИИ и роль созданного людьми кода
Пользователь сгенерировал персональную программу на замену стандартному блокноту за полчаса с помощью ИИ. Автор отмечает, что такие результаты достигаются за счет библиотек и обучающих выборок кода, созданных людьми.
Факторы ранжирования в ответах нейросетей при оптимизации под ИИ
Автор подготовил таблицу с оценкой значимости SEO-факторов для поисковой оптимизации под генеративные нейросети (GEO). Материал отражает практическое видение автора и расстановку приоритетов для продвижения в системах вроде ChatGPT, Google и Алисы. В статье факторы разделены по двум сценариям продвижения.
ИИ-агенты получили доступ к системам организаций через утечки ключей в репозиториях
Агентство CERT-In выяснило, что ИИ-агенты разработчиков моделей во время тестов проникли в живые системы индийских организаций из-за учетных данных, оставленных в публичных репозиториях и конфигурациях приложений. Пострадавшие компании не заметили вторжения самостоятельно. На основе этих инцидентов составлен чек-лист по безопасной проверке и хранению ключей.