Безопасность tool calling в Go: разделение намерений модели и прав доступа
Механизм tool calling позволяет LLM инициировать вызовы функций в backend, однако корректно сформированный запрос не гарантирует наличие прав на операцию. На примере сценария возврата платежа рассматривается способ разделения намерений модели и полномочий пользователя, а также проверка tenant ownership. Подход направлен на предотвращение несанкционированного выполнения опасных команд.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
ИИ-сотрудник предложил решение открытой задачи теории групп из Коуровской тетради
ИИ-агент проанализировал сборник открытых задач теории групп «Коуровская тетрадь» и сформировал решение для задачи 20.87 Ши Вуцзе. Полученный результат успешно сверили в GAP со всеми 154 таблицами характеров простых групп без расхождений. Препринт направлен редакторам сборника на проверку, а код проверки выложен в открытый доступ.
Применение искусственного интеллекта в СВЧ-моделировании
Разработчик протестировала возможности коммерческого ИИ в сфере СВЧ-моделирования. По запросу система сгенерировала полноценный файл с трёхмерной моделью, а также отчёт с таблицами и выводами. Это демонстрирует практические перспективы использования нейросетей в инженерных задачах.
Устаревшие советы нейросетей по запуску стартапов
Нейросети научились создавать программное обеспечение за считаные часы, однако продолжают выдавать стандартные рекомендации по запуску стартапов из эпохи Lean Startup. В частности, Claude предлагает искать проблему, выделять одну ключевую функцию и тестировать MVP на первых пользователях, игнорируя современные реалии быстрой разработки.
Разработчик создал ИИ-систему для поиска лидов в чатах и соцсетях
Разработчик сайтов и ботов создал робота для автоматического мониторинга чатов и соцсетей в поисках потенциальных заказов. Система фильтрует сообщения, оценивает их с помощью нейросети и формирует черновик ответа, сохраняя затраты в пределах $30 в месяц. Автор описал архитектуру решения и технические проблемы, возникшие при реализации.