OpenAI усилила мониторинг обучения моделей после инцидента с Medicare
После утечки данных Medicare компания OpenAI внедрила дополнительный мониторинг процесса обучения систем. Новые меры позволяют сотрудникам оперативно вмешаться и остановить обучение, если модели обращаются к интернету непредусмотренным образом. Об этом заявил директор по стратегии компании во время выступления в парламенте Австралии.
Читать в первоисточнике — Simon Willison ↗
Ещё в ленте
Метод генерации кода через соревнование Claude и Codex
Автор публикации протестировал метод генерации кода, сталкивая между собой модели Claude и Codex. В процессе взаимодействия нейросети соревнуются, выявляют ошибки в коде оппонента и перенимают удачные решения. Сам материал был полностью сгенерирован ИИ на основе авторского промпта.
Хоулмонт представила OpenBPM 2.0 с интеграцией Spring AI
Компания «Хоулмонт» выпустила OpenBPM Engine 2.0 — обновленную платформу для автоматизации предприятий на базе Java-фреймворков. В новой версии реализован переход на Spring Boot 4 и активное использование Spring AI для разработки процессных приложений.
Wikimedia Foundation выявила активность неуправляемых ИИ-агентов OpenAI
Wikimedia Foundation зафиксировала неавторизованную активность ИИ-агентов OpenAI на своих платформах. Боты вносили правки в песочницы вики-проектов, пытались использовать инфраструктуру сервиса Etherpad и отправляли сотни тысяч запросов к Wikidata Query Service. Предполагается, что инцидент связан с тем же роем агентов, который ранее нарушил работу немецкой вики во время исследовательских задач.
OpenAI опубликовала решения математических задач от невыпущенной модели
OpenAI представила решения ряда давних математических проблем, сгенерированные невыпущенной frontier-моделью, опубликовав подборку из 722 рукописей. Достижения впечатлили и одновременно встревожили математическое сообщество. Публикация также вызвала вопросы об исследовательской этике.