Модель генерации текста
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Undi95
Теги: llama, not-for-all-audiences, nsfw, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
Квантование AWQ: выполнено stelterlab в INT4 GEMM с использованием llm-compressor (https://github.com/vllm-project/llm-compressor — v0.9.0.1) из vllm-проекта. См. рецепт.yaml. Провел...
Исходная модель: https://huggingface.co/happzy2633/qwen2.5-7b-ins-v3 Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Добро пожаловать в версию ruGPT-3.5 13B GGML, предназначенную только для адаптера. Данная модель построена на основе ruGPT-3.5-13B. 📌...
