· Хабр

Справочник по основным командам и общим параметрам llama.cpp

Опубликовано руководство по общим параметрам утилит проекта llama.cpp. В материале разобраны команды для llama-cli, llama-completion и llama-server с шаблонами использования и расширенными комментариями к штатным описаниям.

Читать в первоисточнике — Хабр ↗

Ещё в ленте

· Хабр · Бизнес · Исследования

Как внедрение ИИ влияет на эффективность команды и работу сотрудников

Использование нейросетей способно как ускорять процессы, так и увеличивать усталость сотрудников из-за непрерывного принятия решений и доработок. В материале на примерах и исследованиях рассматривается влияние ИИ на эффективность команды. Также поднимаются вопросы оценки вклада человека, когда значительную часть задач выполняет нейросеть.

· Хабр · Бизнес · Безопасность

Как генеративный ИИ влияет на литературу и издательский бизнес

Использование генеративного ИИ в литературе привело к ряду скандалов, включая исключение авторов из списков престижных премий и наплыв сгенерированных текстов в самиздат и на Amazon. В то же время издательства сами активно применяют нейросети для редактуры, переводов и верстки, что порой приводит к появлению артефактов ИИ даже в авторских рукописях.

· Хабр · Open source

Опубликован справочник по параметрам и командам llama.cpp

Составлен справочник по аргументам утилит для инференса llama-cli, llama-completion и llama-server из проекта llama.cpp. В материале собраны и прокомментированы параметры командной строки с разбором принципов их работы на основе изучения исходного кода.

· Хабр · Безопасность · Open source

Итоги полугода развития каталога инструментов кибербезопасности для ИИ

Создатели проекта awesome-ai-security-tools подвели итоги сбора инструментов кибербезопасности на базе ИИ и средств защиты моделей. За полгода репозиторий получил более 200 запросов на изменение от сотен авторов. Автор поделился опытом проверки открытости решений и наблюдениями за развитием сегмента.