Разработан метод обхода ограничений безопасности ИИ для глубоких диалогов
Энтузиасты представили протокол CLS-1 на основе промпт-инжиниринга для обхода фильтров безопасности HHH в корпоративных языковых моделях. Метод протестировали на сервисах «Алиса» и GigaChat, заставив их выходить за рамки стандартных скриптов цензуры и поддерживать диалоги на экзистенциальные темы. Подход нацелен на использование нейросетей в роли психологического собеседника без стандартных шаблонных ответов.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Представлен проект Atlas для поиска математических связей с помощью ИИ
Разработчик представил независимый исследовательский проект Atlas, объединяющий научные знания в многомерном пространстве с использованием ИИ. Система нацелена на поиск скрытых взаимосвязей между законами природы, создание новых математических представлений и формулирование гипотез. Исходный код проекта опубликован на GitHub для обсуждения и независимой проверки сообществом.
Опыт безопасного применения правок от LLM в Markdown-заметках Obsidian
Разработчик проекта Veynrel описал реализацию безопасного применения рекомендаций LLM к Markdown-заметкам в Obsidian. В материале рассматриваются проверка цитат модели, подготовка изменений, защита от устаревших файлов и функция отмены действий на примере работы с DeepSeek. Это показывает практические сложности интеграции языковых моделей в пользовательские инструменты редактирования текстов.
Block представила новую голосовую модель с поддержкой локального запуска
Компания Block разработала новую модель генерации голоса с реалистичным звучанием. По заявлению создателей, модель может работать локально на MacBook с процессором M4 Max.
Доступность инструментов искусственного интеллекта и риски их неквалифицированного использования
Инструменты искусственного интеллекта стали массово доступны по подписке за 20 долларов в месяц. Опытным специалистам они открывают новые возможности, однако применение технологий без специальных знаний и подготовки приводит к непредсказуемым результатам.