Использование игровых комплектующих для сборки серверов машинного обучения
Инженер ЦОД рассмотрел возможность сборки сервера на базе потребительского железа для задач локального машинного обучения, инференса и обработки данных. В материале приводится сравнение такой конфигурации с серверными решениями, а также анализируются риски и экономическая целесообразность подобного подхода.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Влияние теневого ИИ на процессы служб ИТ-поддержки
Сотрудники все чаще решают технические проблемы с помощью нейросетей в обход внутренних систем учета инцидентов. Это приводит к потере данных о сбоях в ИТ-поддержке и создает риски для компаний. В материале рассматриваются последствия неконтролируемого использования ИИ и способы восстановления видимости процессов.
Сравнение моделей Claude и ChatGPT при решении задач по программированию
Четыре модели линеек Claude и ChatGPT протестировали на восьми одинаковых задачах по программированию, и все они выдали верный код с первой попытки. Основная разница между нейросетями зафиксирована во времени генерации (от 8 до 28 минут на все задачи), стоимости токенов с разбросом до пяти раз и структуре решений.
Миграция генерации видео с Veo 3.1 на Gemini Omni Flash в Gemini API
Google отключает preview-версии модели Veo 3.1 в Gemini API и предлагает перейти на Gemini Omni Flash. Новая модель отличается архитектурой запросов, схемой передачи изображений и отсутствием параметра длительности. В материале рассмотрены особенности адаптации API, сравнение качества генерации и расчет стоимости клипов.
Модель GigaAM-v3 дообучили для лучшего распознавания IT-терминов
Разработчики сервиса диктовки Glas дообучили модель распознавания речи GigaAM-v3 на 25 часах аудио. На тестовых записях метрика WER снизилась с 8,81% до 5,76%, а доля правильного написания IT-терминов выросла с 43,8% до 86,7%. При этом в бета-версии участились пропуски слов и ухудшилась расстановка регистра и знаков препинания на обычной речи.