· Хабр

Справочник по основным параметрам и командам llama.cpp

Опубликовано руководство по общим параметрам llama.cpp, применимым в утилитах llama-cli, llama-completion и llama-server. Для каждого параметра приведены шаблоны, стандартные описания и развернутые комментарии с указанием различий между инструментами.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

· Хабр · Продукты · Модели

Введение в вайбкодинг: как работают ИИ-агенты и разработка с Codex

Материал объясняет концепцию вайбкодинга, особенности работы ИИ-агентов и их отличия от стандартных языковых моделей. Также рассматриваются доступные инструменты разработки и практическое создание приложения с помощью Codex без написания кода.

Сравнение RWKV-7 и трансформеров с помощью послойных проб

Исследователь обучил 12 небольших моделей RWKV-7 и трансформеров с RoPE и NoPE, чтобы изучить распределение информации по слоям. Линейные пробы показали, что ключевые различия между архитектурами на этом масштабе касаются кодирования позиций токенов, тогда как для синтаксиса и смысла представления при равном loss схожи. Все материалы эксперимента, включая код и чекпоинты, опубликованы в открытом доступе.

· The Verge · Бизнес · Железо

The Verge выпустил материал о кризисе руководства в Nvidia и Дженсене Хуанге

Еженедельная рассылка The Stepback от The Verge посвятила выпуск кризису руководства в компании Nvidia и отставке ее главы Jensen Huang. Автор Terrence O'Brien анализирует причины сложившейся ситуации и ее последствия для чипмейкера.

· Хабр · Бизнес · Исследования

Как внедрение ИИ влияет на эффективность команды и работу сотрудников

Использование нейросетей способно как ускорять процессы, так и увеличивать усталость сотрудников из-за непрерывного принятия решений и доработок. В материале на примерах и исследованиях рассматривается влияние ИИ на эффективность команды. Также поднимаются вопросы оценки вклада человека, когда значительную часть задач выполняет нейросеть.