OpenAI и польский институт NASK займутся безопасностью ИИ
OpenAI и польский институт NASK заключили партнерство в сфере безопасности искусственного интеллекта и технических исследований. Сотрудничество направлено на укрепление защитных мер и поддержку устойчивости цифровой экосистемы.
Читать в первоисточнике — OpenAI ↗
Ещё в ленте
Как внедрение случайности в ранний ИИ привело к галлюцинациям моделей
Доцент Бенджамин Линдквист исследует, как инженеры намеренно добавляли случайность в ранние системы искусственного интеллекта. По его данным, именно этот подход привел к созданию моделей глубокого обучения, способных галлюцинировать.
ИИ-агенты на виртуальном острове MIT начали играть и улучшили свои навыки
Исследователи из MIT изолировали 13 ИИ-агентов на виртуальном острове, оставив их без конкретных задач. В ответ на это агенты начали изобретать игры, оплакали потерянное кольцо и со временем стали эффективнее справляться со своими обязанностями.
Роль ИИ в разработке: от использования инструментов к глубокому пониманию кода
В материале рассматриваются вопросы доверия к генеративному ИИ при ревью и исправлении кода, а также актуальность чтения документации в эпоху ChatGPT. Автор поднимает проблему ситуаций, когда нейросеть не находит решение из-за ошибочного промпта или ограничений по времени.
Использование оценок баз данных как наград RL: обучение агентов с ThinkingBox
Представлен подход к постобучению ИИ-агентов с помощью инструмента ThinkingBox. Метод позволяет преобразовывать процесс оценки работы с базами данных в сигналы вознаграждения для обучения с подкреплением (RL).