Запуск локальной LLM Qwen 2.5 14B на домашнем ПК для интерактивного сайта
Автор материала развернул локальную языковую модель Qwen 2.5 14B на домашнем компьютере и интегрировал ее в веб-сайт. Модель используется для имитации цифровой жизни персонажа с собственным характером и полномочиями в рамках проекта INFERNUM.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Как измерять влияние ИИ на продуктивность разработчиков с помощью DevEx
Несмотря на ускорение написания кода с помощью ИИ, общая продуктивность разработчиков часто не растет из-за потерь времени на коммуникацию, поиск информации и согласования. Для комплексной оценки эффективности фреймворки DORA и SPACE предлагают дополнять метриками опыта разработчика (DevEx). В материале рассматривается, как инструменты на базе ИИ меняют подходы к измерению DevEx.
Методы удаления текстовых водяных знаков из вывода LLM
Разработчики исследуют способы обхода водяных знаков, которые внедряются в сгенерированные тексты такими моделями, как Claude и решениями от OpenAI. В материале рассматриваются вопросы устойчивости меток к рерайтингу другими нейросетями, частичному редактированию и обработке исходного кода.
Использование pre-commit хуков для управления поведением ИИ-агентов
Geoffrey Huntley предложил контролировать работу кодинг-агентов с помощью git pre-commit хуков вместо постоянного обновления инструкций в AGENTS.md. Если агент напрямую обращается к модулям наблюдаемости в обход требуемой библиотеки диагностики, хук блокирует коммит и передает агенту промпт с указанием использовать нужный модуль. Разработчик отмечает, что такой подход помогает автоматически добиваться корректного результата от ИИ.
Опубликованы записи докладов о защите ИИ с PRO DevSecOps Conf 2026
ГК Swordfish Security выложила материалы ежегодной конференции PRO DevSecOps Conf 2026. Доклады посвящены безопасной разработке, защите ИИ-систем в продакшене и соблюдению закона 243-ФЗ об искусственном интеллекте в России.