Запуск открытых моделей машинного обучения на домашнем ПК
В материале рассматривается локальный запуск открытых моделей машинного обучения, которые работают без интернета и не требуют подписок. Эксперты компании «Криптонит» протестировали компактные модели на ПК с процессором Core i5-14600 и видеокартой RTX 3070Ti.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Как подключить Claude Code через API-шлюз к сторонним моделям
Команда Just AI рассказала о способах запуска инструмента Claude Code со сторонними моделями и провайдерами через совместимый API-шлюз. В материале разбираются требования к шлюзу, специфика работы протокола API и возникающие проблемы совместимости. На примере платформы Caila показаны поддерживаемые модели, стоимость сессий и процесс настройки агентного цикла.
Как компьютерное зрение контролирует безопасность на стройплощадках
На строительных объектах применяются дообученные модели компьютерного зрения семейств YOLO и DETR для детекции людей и проверки средств индивидуальной защиты. Обработка данных может выполняться как в облаке, так и на edge-устройствах непосредственно на стройке. В среднем на один жилой комплекс требуется около 15 камер для эффективного мониторинга.
Организация общей памяти проекта для Claude Code и Codex
Разработчик настроил единую базу знаний для Claude Code и Codex с помощью Markdown-файлов внутри репозитория. Обоим ИИ-агентам добавлены инструкции для автоматического чтения и обновления заметок. В материале описаны структура хранения, параметры конфигурации и готовый скилл для переноса решения.
Разработана модель Temper 0.5B для кода на Rust на базе Qwen2.5-Coder
Представлена модель Temper 0.5B, дообученная на базе Qwen2.5-Coder-0.5B-Instruct со специализацией на языке Rust. Целью проекта была проверка эффективности компактной модели в узкой задаче по сравнению с решениями аналогичного и большего размера. Узкая специализация позволила Temper 0.5B превзойти модели, превосходящие ее по числу параметров до трех раз.