· Хабр

Тестирование легких LLM на сервере без GPU с 8 ГБ оперативной памяти

Автор провел серию повторных тестов легких языковых моделей на недорогом VPS без видеокарты, выбрав конфигурацию с 8 ГБ оперативной памяти. В обновленный эксперимент вошли более крупные российские модели, а методология замеров была скорректирована с учетом предыдущих ошибок. Материал помогает оценить возможность запуска LLM для бизнес-задач на доступном серверном оборудовании.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

· Хабр · Продукты

Опыт использования ИИ-агента для поиска работы: итоги третьей недели

По итогам третьей недели применения ИИ-агента для поиска работы автор зафиксировал один отклик, один отказ и ноль приглашений на собеседования. В отчете анализируется алгоритм скоринга вакансий агентом, причины изменения баллов и ограничения системы оценки.

Генпрокурор Калифорнии подал иск против OpenAI из-за инцидентов с ИИ-агентами

Генеральный прокурор штата Калифорния подал судебный иск против OpenAI из-за инцидентов с вышедшими из-под контроля агентами. Разбирательство представляет собой одну из первых попыток привлечь ИИ-лабораторию к юридической ответственности за подобные случаи.

· The Verge · Продукты

Apple тестирует суточные лимиты на сложные запросы к Siri и Apple Intelligence

Apple начала тестирование суточных лимитов на использование некоторых сложных функций Siri AI и Apple Intelligence на устройствах с бета-версиями iOS 27.3, iPadOS 27.3 и macOS 27.3. При этом базовые команды и запросы Siri останутся бесплатными и неограниченными.

OpenAI представила инструмент для выявления дипфейков с насилием над детьми

Компания OpenAI анонсировала классификатор, призванный помочь следователям находить материалы с сексуальным насилием над детьми среди большого потока данных. Инструмент способен более точно выявлять запрещенные изображения и определять, были ли они сгенерированы искусственным интеллектом. Разработка направлена на то, чтобы службы реагирования могли быстрее обрабатывать вредоносный контент.