— Создатель модели: Mistral AI_ — Исходная модель: Mistral 7B Instruct v0.2 Этот репозиторий содержит файлы моделей в формате llamafile для Mistral AI_’s Mistral 7B Instruct v0.2. Эти файлы были квантованы с использованием оборудования, любезно предоставленного Massed Compute. ВНИМАНИЕ: этот README может содержать неточности. Он был создан автоматически путем разветвления TheBloke/Mistral-7B-Instruct-v0.2-GGUF и передачи README через sed. Об ошибках следует сообщать в Jartine и не отражать TheBloke. Вы также можете поддержать его работу на Patreon. llamafile — это новый формат, представленный Mozilla Ocho 20 ноября 2023 года. Он использует Cosmopolitan Libc для преобразования весов LLM в работоспособные двоичные файлы llama.cpp, которые работают на стандартных установках шести операционных систем для ARM64 и AMD64. Вот неполный список клиентов и библиотек, которые поддерживают llamafile: llama.cpp. Исходный проект для llamafile. Предлагает CLI и опцию сервера. text-generation-webui, наиболее широко используемый веб-интерфейс со множеством функций и мощных расширений. Поддерживает ускорение графического процессора. KoboldCpp — полнофункциональный веб-интерфейс с ускорением графического процессора на всех платформах и архитектурах графического процессора. Особенно хорош для рассказывания историй. GPT4All, бесплатный локальный инструмент с открытым исходным кодом…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: mozilla-ai
Теги: gguf, llamafile, mistral, finetuned, conversational
Лайков: 25 | Загрузок: 2,179
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
