Чат и поддержка: сервер Discord jartine Работа Jartine в области LLM щедро поддерживается грантом от Mozilla. Этот репозиторий содержит файлы модели формата llamafile для Microsoft Phi 2. ВНИМАНИЕ: этот README может содержать неточности. Он был создан автоматически путем разветвления TheBloke/phi-2-GGUF и передачи README через sed. Об ошибках следует сообщать в Jartine и не отражать TheBloke. Вы также можете поддержать его работу на Patreon. llamafile — это новый формат, представленный Mozilla Ocho 20 ноября 2023 года. Он использует Cosmopolitan Libc для преобразования весов LLM в работоспособные двоичные файлы llama.cpp, которые работают на стандартных установках шести операционных систем для ARM64 и AMD64. Вот неполный список клиентов и библиотек, которые поддерживают llamafile: llama.cpp. Исходный проект для llamafile. Предлагает CLI и опцию сервера. text-generation-webui, наиболее широко используемый веб-интерфейс со множеством функций и мощных расширений. Поддерживает ускорение графического процессора. KoboldCpp — полнофункциональный веб-интерфейс с ускорением графического процессора на всех платформах и архитектурах графического процессора. Особенно хорош для рассказывания историй. GPT4All, бесплатный локальный графический интерфейс с открытым исходным кодом, поддерживающий Windows, Linux и macOS с полным ускорением графического процессора. ЛМ Студия,…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: jartine
Теги: llamafile, phi-msft, nlp, code, en
Лайков: 18 | Загрузок: 4,572
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
