Концепция толстого харнесса: вынос логики из модели в программный контур
Архитектурный подход «толстый харнесс» предполагает перенос ключевых решений из вероятностной модели в программный код и явные контракты. Окружающий контур берет на себя нормализацию запросов, маршрутизацию, контекст, политики доступа и верификацию. При этом модель задействуется лишь на границе взаимодействия для понимания человеческого текста.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Elon Musk ограничил лимиты Grok Bot из-за высоких затрат
Elon Musk ввел ограничения на использование Grok Bot из-за неприемлемо высоких расходов. При этом ранее он охарактеризовал этого ИИ-бота как самый быстрорастущий продукт, который он когда-либо видел.
Критика концепции выравнивания искусственного интеллекта
В материале рассматривается концепция выравнивания (alignment), нацеленная на согласование интересов искусственного интеллекта с человеческими. Автор указывает на концептуальные изъяны подхода, заявляя, что антагонизм существует между интересами различных групп людей, а не человека и машины. В связи с этим утверждается, что сама процедура выравнивания может нести глобальную угрозу.
GPT применили для решения криптографической задачи с кубиком Рубика
Автор криптографической задачи с зашифрованным посланием на кубике Рубика протестировал GPT для ее решения после того, как читатели не прислали правильный ответ. В публикации описан процесс расшифровки головоломки с помощью языковой модели.
Как боты Anthropic влияют на попадание сайтов в результаты поиска Claude
У Anthropic работают три разных бота: для сбора обучающих данных, индексации для поиска и прямого чтения страниц по запросу пользователей. По данным Crawl Readiness, сайты нередко блокируют Claude-SearchBot вместо ClaudeBot, ошибочно закрывая себе доступ в выдачу веб-поиска Claude. Чтобы страницы попадали в ответы ассистента, необходимо сохранять доступ для поискового и пользовательского ботов.