Модели OpenAI и Google уязвимы к обходу запрета на создание откровенных изображений
Исследователи обнаружили метод атаки, вскрывающий недостатки в защитных системах OpenAI и Google против генерации откровенного контента. Новые ИИ-модели компаний можно обойти и заставить создавать изображения обнаженного характера.
Читать в первоисточнике — Ars Technica ↗
Ещё в ленте
Selectel обновил ИИ-платформу и добавил новые модели в ИИ-роутер
В сентябре Selectel обновил собственную ИИ-платформу и расширил список доступных моделей в ИИ-роутере. Кроме того, компания представила набор сервисов для работы с данными и выпустила другие платформенные обновления.
Практика использования ИИ-ассистента в управлении и контроль его работы
Руководитель направления продаж и маркетинга компании Аспро.Cloud поделился опытом передачи части рабочих задач ИИ-ассистенту. Автор уделил внимание не только экономии времени, но и методам проверки результатов работы искусственного интеллекта.
Тестирование промптов: ИИ в роли оценщика пропустил большую часть брака
Автор провел регрессионное тестирование промптов для текстовых ИИ-агентов, задействовав модель в роли читателя для проверки результатов. В ходе эксперимента модель пропустила три из четырех текстов, которые ранее потребовали существенной ручной переработки. В результате возникает риск пропуска некачественных материалов, несмотря на успешные результаты автоматических тестов.
Scimplify привлекла $25 млн на производство критических материалов с ИИ
Стартап Scimplify привлек 25 млн долларов инвестиций для создания критически важных материалов с помощью искусственного интеллекта и конкуренции с поставщиками из Китая. Годовой темп выручки компании утроился и достиг 200 млн долларов. На фоне этого роста компания планирует расширение бизнеса на рынке США.