Оптимизация real-time обработки RTSP-потока с YOLO на C++20 и ONNX Runtime
Разработчик представил архитектуру C++20-сервера для непрерывной обработки RTSP-видеопотока с помощью модели YOLO. Решение устраняет задержки прямого эфира и переполнение очередей с помощью пула постоянных воркеров и слотов последнего значения. Подход успешно протестирован в ходе 16-часового непрерывного прогона с реальной камерой.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
AI Studio от GigaPlatform: пять рабочих сценариев применения моделей
AI Studio представляет собой среду для тестирования технологий экосистемы GigaPlatform под конкретные задачи. Платформа позволяет оценить применимость моделей до создания прототипа и получать практические результаты, такие как отчеты, промпты, транскрипты и ответы на Q&A.
Falcon-Emirati: языковая модель с поддержкой эмиратского диалекта и культурных нюансов
Представлена большая языковая модель Falcon-Emirati. Она обучена понимать эмиратский диалект, а также культурные особенности и языковые нюансы региона.
Представлена модель Falcon OCR Arabic с 270 млн параметров
На Hugging Face представлена модель Falcon OCR Arabic, содержащая 270 миллионов параметров. Она заявлена как передовое решение для оптического распознавания текста на арабском языке.
Как устроена память Samsung LPDDR5X-PIM с блоками вычислений внутри DRAM
Samsung разработала память LPDDR5X-PIM, в которой вычислительные блоки встроены непосредственно в банки DRAM. Такой подход устраняет узкое место обмена данными между процессором и памятью, а возможности технологии протестированы на модели Llama 3.1 8B.