GPTQ quantization of https://huggingface.co/TehVenom/PPOPygway-V8p4Dev-6b Using this repository: https://github.com/mayaeary/GPTQ-for-LLaMa/tree/gptj-v2
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mayaeary
Теги: gptj, text generation, conversational, gptq, 4bit, en
Лайков: 2 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
This is quantized version of Qwen/Qwen2.5-0.5B-Instruct created using llama.cpp Qwen2.5 is the latest series of Qwen large language...
Qwen3Guard — это серия моделей безопасной модерации, созданных на основе Qwen3 и обученных на наборе данных из 1,19...
Это 2-битное квантование mistralai/Mixtral-8x7B-Instruct-v0.1 с использованием QuIP#. В качестве альтернативы вы можете использовать ветку vLLM для более быстрого...
Линия внутренних моделей: Hathor 0.1 x Poppy0.72 = HathorVariant-X (slerp) | Т-900 х Биоллм = Т-900хБиоЛЛМ. (slerp) Для...
