Критика концепции выравнивания искусственного интеллекта
В материале рассматривается концепция выравнивания (alignment), нацеленная на согласование интересов искусственного интеллекта с человеческими. Автор указывает на концептуальные изъяны подхода, заявляя, что антагонизм существует между интересами различных групп людей, а не человека и машины. В связи с этим утверждается, что сама процедура выравнивания может нести глобальную угрозу.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
42AI привлек 62,5 млн долларов на создание модели мира для прогнозирования поведения людей
Стартап 42AI вышел из скрытого режима и привлек 62,5 миллиона долларов инвестиций. Компания разрабатывает модель мира, способную прогнозировать действия человека до принятия им решения даже в совершенно новых ситуациях.
Разбор решения для соревнования RSNA Knee Abnormality Detection на Kaggle
Опубликован разбор решения, занявшего 19-е место в соревновании RSNA Knee Abnormality Detection на платформе Kaggle. В подходе использовались дистилляция ансамбля, кропы с помощью MedSAM и разметка данных с применением LLM.
Elon Musk ограничил лимиты Grok Bot из-за высоких затрат
Elon Musk ввел ограничения на использование Grok Bot из-за неприемлемо высоких расходов. При этом ранее он охарактеризовал этого ИИ-бота как самый быстрорастущий продукт, который он когда-либо видел.
GPT применили для решения криптографической задачи с кубиком Рубика
Автор криптографической задачи с зашифрованным посланием на кубике Рубика протестировал GPT для ее решения после того, как читатели не прислали правильный ответ. В публикации описан процесс расшифровки головоломки с помощью языковой модели.