Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области LLM щедро поддерживается грантом от Андреессена Горовица (a16z) — Создатель модели: Zaraki Quem Parte — Оригинальная модель: Hermes Lima RP L2 7B В этом репозитории содержатся файлы модели GPTQ для Hermes Lima RP L2 7B от Zaraki Quem Parte. Предусмотрено несколько перестановок параметров GPTQ; Подробную информацию о предоставляемых опциях, их параметрах и программном обеспечении, использованном для их создания, см. ниже в разделе «Предоставленные файлы». Модель(и) AWQ для вывода с помощью графического процессора. Модели GPTQ для вывода графического процессора с несколькими вариантами параметров квантования. 2, 3, 4, 5, 6 и 8-битные модели GGUF для вывода CPU+GPU. Исходная неквантованная модель fp16 Зараки Кем Парте в формате pytorch, для вывода GPU и для дальнейших преобразований. Поскольку это слияние Nous Hermes и LimaRP, должны работать следующие форматы инструкций: Создатель исходной модели указал свою лицензию как другую, и поэтому для этого квантования использовалась та же самая лицензия. Поскольку эта модель основана на Llama 2, на нее также распространяются условия лицензии Meta Llama 2, файлы лицензии для которой включены дополнительно. Поэтому его следует рассматривать как…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TheBloke
Теги: llama, llama-2, text-generation-inference, 4-bit, gptq
Лайков: 7 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
