static quantize of https://huggingface.co/Vezora/Mistral-22B-v0.2 iQ Quants can be found here(Richard Erkhov’s work): https://huggingface.co/RichardErkhov/Vezora-Mistral-22B-v0.2-gguf
Модальности:
Генерация текста
Задача: Генерация текста
Автор: NLPark
Теги: gguf, endpoints_compatible
Лайков: 3 | Загрузок: 29
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Исходная модель: https://huggingface.co/huihui-ai/Qwen2.5-Coder-3B-Instruct-abliterated Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: RUCAIBox Теги: llama, text-generation-inference, endpoints_compatibleЛайков:...
DiscoLM 70b — это модель 70b, основанная на LeoLM 70b от Laion, которая прошла дополнительную предварительную подготовку для...
ВНИМАНИЕ: НФВ. Графический УЖАС. R/X-рейтинг. Ругаясь. БЕЗ ЦЕНЗУРЫ. ВАЖНО: Эта модель имеет рассуждения о включении/выключении/переменном управлении из NousResearch...
