Исследование выявило функциональную ось боли в пространстве активаций LLM
Исследователи изучили 25 открытых языковых моделей и выделили в пространстве их активаций направление, связанное с описанием боли пяти видов. Сдвиги по этой оси увеличивают вероятность генерации вредоносных ответов и ослабляют механизмы избегания вреда при сохранении общей связности текста. Работа помогает лучше понять внутренние механизмы обработки аффективных контекстов в моделях.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Как работают нейросети для анимации фотографий: разбор технологий
Опубликован разбор принципов работы моделей, создающих видео на основе статичных портретов. В материале объясняется, как алгоритмы дорисовывают скрытые части лица и тела при смене ракурса, обучаясь на видеоданных. Качество анимации напрямую зависит от архитектуры используемой нейросети и исходного изображения.
Разработан сервис DubClean для удаления оригинальной речи из закадрового перевода
Создан сервис DubClean, позволяющий удалять оригинальную английскую речь из закадровой озвучки фильмов с сохранением музыки, эффектов и голоса переводчика. Для разделения и сборки аудиодорожек система комбинирует готовые и собственные нейросети с алгоритмическими этапами обработки.
Эксперимент по проверке обработки данных коннектомом дрозофилы на статьях Хабра
Полный коннектом мозга дрозофилы из 138 639 нейронов и 15 миллионов связей находится в открытом доступе. Автор протестировал симуляцию этой биологической нейросети на задаче угадывания хабов и рейтинга публикаций на Хабре, сравнив результат с контрольной сетью со случайно перемешанными связями. Эксперимент призван выяснить, способна ли структура связей мозга содержательно обрабатывать информацию, а не просто пропускать сигнал.
Тестирование механизма памяти skillmem для ИИ-агентов
Разработчик проверил способность ИИ-агента сохранять контекст между сессиями с помощью инструмента skillmem. Без системы памяти агент вспомнил 0 фактов из 10, тогда как с ней успешно воспроизвел все 10. В ходе проверки также были выявлены ошибки с сохранением заметок в базу, засорением поиска пересказами сессий и недоверием к правилам.