Тестирование легких LLM на сервере без GPU с 8 ГБ оперативной памяти
Автор провел серию повторных тестов легких языковых моделей на недорогом VPS без видеокарты, выбрав конфигурацию с 8 ГБ оперативной памяти. В обновленный эксперимент вошли более крупные российские модели, а методология замеров была скорректирована с учетом предыдущих ошибок. Материал помогает оценить возможность запуска LLM для бизнес-задач на доступном серверном оборудовании.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Опыт использования ИИ-агента для поиска работы: итоги третьей недели
По итогам третьей недели применения ИИ-агента для поиска работы автор зафиксировал один отклик, один отказ и ноль приглашений на собеседования. В отчете анализируется алгоритм скоринга вакансий агентом, причины изменения баллов и ограничения системы оценки.
Генпрокурор Калифорнии подал иск против OpenAI из-за инцидентов с ИИ-агентами
Генеральный прокурор штата Калифорния подал судебный иск против OpenAI из-за инцидентов с вышедшими из-под контроля агентами. Разбирательство представляет собой одну из первых попыток привлечь ИИ-лабораторию к юридической ответственности за подобные случаи.
Apple тестирует суточные лимиты на сложные запросы к Siri и Apple Intelligence
Apple начала тестирование суточных лимитов на использование некоторых сложных функций Siri AI и Apple Intelligence на устройствах с бета-версиями iOS 27.3, iPadOS 27.3 и macOS 27.3. При этом базовые команды и запросы Siri останутся бесплатными и неограниченными.
OpenAI представила инструмент для выявления дипфейков с насилием над детьми
Компания OpenAI анонсировала классификатор, призванный помочь следователям находить материалы с сексуальным насилием над детьми среди большого потока данных. Инструмент способен более точно выявлять запрещенные изображения и определять, были ли они сгенерированы искусственным интеллектом. Разработка направлена на то, чтобы службы реагирования могли быстрее обрабатывать вредоносный контент.