Запуск LLM на встроенном NPU процессора Intel Core Ultra 5 226V
На мини-компьютере с чипом Intel Core Ultra 5 226V протестировали локальный запуск модели Qwen3-8B через OpenVINO на встроенном NPU. В ходе испытаний замерили скорость и энергопотребление системы, а также сравнили показатели с видеокартой RTX 5070 Ti при выполнении прикладных задач. Локальное выполнение позволяет обрабатывать данные без облачных сервисов и дополнительных подписок.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
В Банки.ру внедрили ИИ-ассистента для ответов на вопросы коллег по аналитике
Руководитель направления аналитики Банки.ру внедрил ИИ-ассистента в рабочем мессенджере для обработки повторяющихся запросов сотрудников о данных и отчетах. Ключевым требованием к системе стала защита от галлюцинаций, поскольку недостоверные цифры могут привести к принятию ошибочных решений.
В Amazon призвали инженеров фиксировать случаи неэффективности ИИ
Инженерное руководство Amazon заявило, что отсутствие пользы от современных инструментов ИИ в рабочих задачах является нормальным наблюдением, а не ошибкой разработчика. Специалистам рекомендуется документировать такие случаи, обсуждать их с коллегами и руководителями для поиска решений. Позиция компании заключается в том, что понимание текущих ограничений ИИ демонстрирует необходимую профессиональную рассудительность.
Разбор резонансных публикаций об угрозах и апокалипсисе искусственного интеллекта
В материале рассматриваются недавние инциденты и тиражируемые в соцсетях инфоповоды о восстании машин и роях боевых ИИ-агентов. Автор разбирает, имеют ли подобные публикации реальные основания или являются преувеличением.
Тестирование локального кодинга с моделью Qwen3-Coder на ноутбуке с RTX 5070
Автор протестировал возможность полностью автономного написания кода на ноутбуке Meibenben X18A с процессором Ryzen 9 и видеокартой RTX 5070. Для эксперимента использовались открытая нейросеть Qwen3 Coder и подключенный к ней агент для программирования. Такой подход позволяет избежать отправки кода на сторонние серверы и ограничений платных подписок.