Опубликован справочник по параметрам и командам llama.cpp
Составлен справочник по аргументам утилит для инференса llama-cli, llama-completion и llama-server из проекта llama.cpp. В материале собраны и прокомментированы параметры командной строки с разбором принципов их работы на основе изучения исходного кода.
Читать в первоисточнике — Хабр ↗
Ещё в ленте
Справочник по основным параметрам и командам llama.cpp
Опубликовано руководство по общим параметрам llama.cpp, применимым в утилитах llama-cli, llama-completion и llama-server. Для каждого параметра приведены шаблоны, стандартные описания и развернутые комментарии с указанием различий между инструментами.
Как внедрение ИИ влияет на эффективность команды и работу сотрудников
Использование нейросетей способно как ускорять процессы, так и увеличивать усталость сотрудников из-за непрерывного принятия решений и доработок. В материале на примерах и исследованиях рассматривается влияние ИИ на эффективность команды. Также поднимаются вопросы оценки вклада человека, когда значительную часть задач выполняет нейросеть.
Как генеративный ИИ влияет на литературу и издательский бизнес
Использование генеративного ИИ в литературе привело к ряду скандалов, включая исключение авторов из списков престижных премий и наплыв сгенерированных текстов в самиздат и на Amazon. В то же время издательства сами активно применяют нейросети для редактуры, переводов и верстки, что порой приводит к появлению артефактов ИИ даже в авторских рукописях.
Справочник по основным командам и общим параметрам llama.cpp
Опубликовано руководство по общим параметрам утилит проекта llama.cpp. В материале разобраны команды для llama-cli, llama-completion и llama-server с шаблонами использования и расширенными комментариями к штатным описаниям.