Анализ причин сбоев The AI Scientist и галлюцинаций в автономных DeepTech-системах
Автономная система The AI Scientist допускает сбои и генерирует галлюцинации в 41% научных экспериментов. В материале приводится системный аудит архитектур DeepTech-систем и предлагается решение проблемы физической истины на базе П-теоремы Бэкингема, инвариантов Гамильтона и Do-исчисления Перла.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Методы обеспечения безопасности и конфиденциальности данных в системах ИИ
Повсеместное внедрение искусственного интеллекта приводит к появлению специфических угроз для ИИ-инфраструктуры и связанных систем. В материале рассматриваются базовые методы защиты конфиденциальности, целостности и доступности данных при обучении ИИ. Понимание этих принципов необходимо программистам и пользователям для безопасной работы с информацией.
Рецензентов конференции ICLR заподозрили в использовании генеративного ИИ
Участники научной конференции ICLR обратили внимание на обилие малосодержательных рецензий и ссылок на несуществующие работы, заподозрив рецензентов в поручении работы нейросетям. В связи с жалобами исследователь Грэм Нойбиг предложил награду за проверку поданных статей и отзывов с помощью детектора ИИ.
Voyage Labs привлекла $12 млн на ИИ-ассистента для путешествий
Стартап Voyage Labs, основанный выходцем из Google Maps, привлек 12 млн долларов на создание ИИ-ассистента для планирования поездок. В то время как подобные функции обычно демонстрируют универсальные агенты вроде Gemini или Muse, компания делает ставку на узкоспециализированного помощника для путешествий.
Isomorphic Labs привлекла $5 млрд на разработку лекарств с помощью ИИ
Платформа для поиска лекарств с применением искусственного интеллекта Isomorphic Labs привлекла $5 млрд в раунде финансирования серии C. Компания, выделенная из Google DeepMind в 2021 году, планирует направить полученные инвестиции на доведение препаратов-кандидатов до этапа клинических испытаний.