Как развернуть модель Kimi K3 на чипах Cerebras WSE-3T
Описан метод распределения открытой модели Kimi K3 размером около 3 трлн параметров между несколькими пластинами Cerebras WSE-3T. Несмотря на наличие всего 44 ГБ встроенной памяти на чипе, такой подход позволяет запускать триллионные модели со скоростью 1000–2000 токенов в секунду.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Разработан Android-клиент для локального управления агентом DeepSeek Harness
Представлен Android-клиент для взаимодействия с агентом DeepSeek Harness на компьютере без использования облачных серверов и FCM. Решение использует плагин в процессе DSH, авторизацию по QR-коду с пином сертификата и журнал квитанций для предотвращения слепого дублирования команд.
Модераторы сабреддита r/opensource запретили связанные с ИИ проекты
Модераторы сообщества r/opensource опубликовали новые правила публикации, запрещающие проекты, которые используют ИИ, созданы с его помощью или предназначены для него. В заявлении указано, что искусственный интеллект в его нынешнем виде несовместим с концепцией Open Source.
Как изменения в поиске Google с внедрением ИИ повлияли на онлайн-издательства
Внедрение функций искусственного интеллекта в поиск Google привело к масштабным изменениям для цифровых изданий. Индустрия онлайн-публикаций сталкивается с последствиями перестройки поисковой выдачи, от которой долгое время зависел ее трафик.
Энтузиаст использовал машинное обучение и спутниковые данные для поиска грибных мест
Разработчик реализовал пет-проект по поиску боровиков, применив машинное обучение для классификации леса по спутниковым снимкам. В ходе 15 часов вычислений на облачных серверах была сформирована карта грибных мест Ленинградской области.