Справочник по основным параметрам и командам llama.cpp
Опубликовано руководство по общим параметрам llama.cpp, применимым в утилитах llama-cli, llama-completion и llama-server. Для каждого параметра приведены шаблоны, стандартные описания и развернутые комментарии с указанием различий между инструментами.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Введение в вайбкодинг: как работают ИИ-агенты и разработка с Codex
Материал объясняет концепцию вайбкодинга, особенности работы ИИ-агентов и их отличия от стандартных языковых моделей. Также рассматриваются доступные инструменты разработки и практическое создание приложения с помощью Codex без написания кода.
Сравнение RWKV-7 и трансформеров с помощью послойных проб
Исследователь обучил 12 небольших моделей RWKV-7 и трансформеров с RoPE и NoPE, чтобы изучить распределение информации по слоям. Линейные пробы показали, что ключевые различия между архитектурами на этом масштабе касаются кодирования позиций токенов, тогда как для синтаксиса и смысла представления при равном loss схожи. Все материалы эксперимента, включая код и чекпоинты, опубликованы в открытом доступе.
The Verge выпустил материал о кризисе руководства в Nvidia и Дженсене Хуанге
Еженедельная рассылка The Stepback от The Verge посвятила выпуск кризису руководства в компании Nvidia и отставке ее главы Jensen Huang. Автор Terrence O'Brien анализирует причины сложившейся ситуации и ее последствия для чипмейкера.
Как внедрение ИИ влияет на эффективность команды и работу сотрудников
Использование нейросетей способно как ускорять процессы, так и увеличивать усталость сотрудников из-за непрерывного принятия решений и доработок. В материале на примерах и исследованиях рассматривается влияние ИИ на эффективность команды. Также поднимаются вопросы оценки вклада человека, когда значительную часть задач выполняет нейросеть.