Этот репозиторий содержит исполняемые веса (которые мы называем llamafiles), которые работают в Linux, MacOS, Windows, FreeBSD, OpenBSD и NetBSD для AMD64 и ARM64. — Создатель модели: CohereForAI — Исходная модель: CohereForAI/c4ai-command-r-plus Вы можете запустить следующую команду, которая загрузит, объединит и выполнит модель. Кроме того, вы можете загрузить официальный исполняемый файл llamafile из Mozilla Ocho на GitHub, и в этом случае вы можете использовать llamafiles Mixtral в качестве простого файла данных о весах. Файлы, размер которых превышает лимит загрузки Hugging Face в 50 ГБ, имеют расширение .cat𝑋. Вам нужно использовать команду cat локально, чтобы превратить их обратно в один файл в том же порядке. llamafile — это новый формат, представленный Mozilla Ocho 20 ноября 2023 года. Он использует Cosmopolitan Libc для преобразования весов LLM в работоспособные двоичные файлы llama.cpp, которые работают на стандартных установках шести операционных систем для ARM64 и AMD64. Файлы llamafile не только являются исполняемыми файлами, но и представляют собой zip-архивы. Каждый файл llamafile содержит файл GGUF, который можно извлечь с помощью команды unzip. Если вы хотите изменить или добавить файлы в свои llamafiles, то вместо…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jartine
Теги: llamafile, en, fr, de, es, it, pt, ja
Лайков: 6 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
