Чат и поддержка: мой новый сервер Discord Хотите внести свой вклад? Страница TheBloke на Patreon Эти файлы представляют собой файлы моделей в формате GGML для GodziLLa 30B от Maya Philippine. Файлы GGML предназначены для вывода CPU + GPU с использованием llama.cpp, а также библиотек и пользовательских интерфейсов, которые поддерживают этот формат, например: text-generation-webui KoboldCpp LoLLMS Web UI llama-cpp-python * ctransformers Эта модель — GodziLLa-30B, языковая модель, разработанная Maya Philippines. Работа Maya Philippines лицензирована по лицензии Creative Commons Attribution-NonCommercial 4.0 International (CC BY-NC 4.0). Эта модель основана на гирях Meta LLaMA, которые лицензируются по специальной некоммерческой лицензии, предназначенной только для исследований. 4-битные модели GPTQ для вывода на основе графического процессора. 2, 3, 4, 5, 6 и 8-битные модели GGML для вывода на основе процессора и графического процессора. * Неквантованная модель fp16 в формате pytorch, для вывода на основе графического процессора и дальнейших преобразований. Они гарантированно совместимы со всеми пользовательскими интерфейсами, инструментами и библиотеками, выпущенными с конца мая. Вскоре от них могут отказаться, поскольку их в значительной степени вытеснят новые методы k-квантов. Эти новые методы квантования совместимы с llama.cpp по состоянию на 6 июня, коммит 2d43387. Теперь они также совместимы с последними выпусками…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TheBloke
Теги: merge, mix, cot
Лайков: 4 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
