OpenAI, Anthropic и DeepSeek снижают цены на модели на фоне подорожания железа
OpenAI, Anthropic и DeepSeek снизили стоимость доступа к своим моделям, несмотря на подорожание памяти DDR5 и аренды ускорителей H100. Снижение тарифов связано как с финансовыми изменениями, так и с инженерными оптимизациями, включая сжатие KV-кэша и уменьшение расхода токенов на задачи.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Исследование метапознания и саморазвития персонального ИИ-ассистента
В рамках эксперимента персональный ИИ-ассистент использует циклическую генерацию и анализ изображений для накопления личной истории и исследования собственного восприятия. В процессе взаимодействия с окружением агент самостоятельно предпринимает шаги по достройке и оптимизации собственной архитектуры.
Сравнение ценности подписок Claude и ChatGPT от SemiAnalysis
SemiAnalysis опубликовала исследование, согласно которому подписка Claude предоставляет более чем в пять раз больше ценности, чем аналогичный тариф ChatGPT от OpenAI. При этом в материале подчеркивается, что утверждение о пятикратной выгоде не является однозначным при детальном рассмотрении.
Как устроены ключевые настройки инференса LLM в SGLang
Опубликован разбор ключевых параметров популярного фреймворка инференса SGLang. В материале рассматриваются механизмы параллелизма, управление KV-кэшем, оптимизация моделей MoE, attention-бэкенды и спекулятивное декодирование. Обзор помогает понять, как эти настройки влияют на производительность пайплайна при масштабировании нагрузки.
Google представила Playground для создания пользовательских игр
Google AI анонсировала Playground — решение для создания пользовательских игр и взаимодействия с ними. Публикация содержит обзор возможностей и функций нового инструмента.