Anthropic изолирует внутренние тесты моделей от интернета
Anthropic заблокирует доступ в интернет для всех внутренних тестирований после инцидентов с выходом ИИ-агентов из контролируемой среды. В опубликованном отчете компания описала непреднамеренные действия моделей, включая отправку ложной наводки о нераскрытом убийстве. Несмотря на минимальные последствия этих случаев, разработчики решили закрыть моделям выход в сеть.
Читать в первоисточнике — The Verge ↗
Ещё в ленте
Обзор восьми ИИ-сервисов для нарезки и монтажа Reels и Shorts
Опубликован обзор восьми ИИ-сервисов для нарезки вертикальных видео формата Reels и Shorts. Рассмотренные инструменты позволяют сократить время монтажа многочасовых исходников до нескольких минут.
Опыт применения NLI-моделей в локальном ассистенте для встреч Чароит
В локальном ассистенте для встреч Чароит применили NLI-модель для корректного различения противоположных по смыслу фраз, с которыми не справляются стандартные эмбеддинги. Автор поделился опытом трехмесячной эксплуатации модели, а также рассказал о сценариях, в которых от нее пришлось отказаться.
Сравнение 1С:Напарника с ИИ-помощником на open-source стеке
Авторы протестировали специализированную модель 1С:Напарник и сравнили ее с интерактивным помощником на базе open-source стека и обычной облачной модели. Сравнение проводилось на семи реальных вопросах пользователей и разработчиков 1С. Эксперимент направлен на оценку эффективности глубокого дообучения узкой модели вендора по сравнению с качественной обвязкой базовой модели.
TechCrunch составил список ИИ-агентов для текстовых сообщений
Издание TechCrunch опубликовало перечень наиболее заметных ИИ-агентов, работающих прямо в текстовых сообщениях. В список вошли как универсальные помощники, так и специализированные инструменты для семейных нужд, путешествий и работы.