Qwen3-0.6B-8bit
Эта модель mlx-community/Qwen3-0.6B-8bit была преобразована в формат MLX из Qwen/Qwen3-0.6B с использованием mlx-lm версии 0.24.0. Модальности:Генерация текста Области...
Метка: 8-bit
QwQ-LCoT-3B-Instruct-GGUF
Модель QwQ-LCoT-3B-Instruct — это легкая, настроенная на инструкции языковая модель, предназначенная для сложных задач рассуждения и объяснения. Он...
RYS-XLarge-GGUF
MaziyarPanahi/RYS-XLarge-GGUF содержит файлы моделей формата GGUF для dnhkng/RYS-XLarge. GGUF — это новый формат, представленный командой llama.cpp 21 августа...
Mistral-Nemo-Instruct-2407-exl2-8bpw-h8
Это квантованная версия mistralai/Mistral-Nemo-Instruct-2407 с разрешением 8,0 бит в секунду, созданная с помощью exllamav2. Хотите купить мне чашку...
NuminaMath-7B-TIR-GPTQ
NuminaMath — это серия языковых моделей, которые обучены решать математические задачи с использованием интегрированного мышления (TIR). NuminaMath 7B...
omost-phi-3-mini-128k-8bits
omost-phi-3-mini-128k-8bits — это модель phi-3-mini от Omost с длиной контекста 128 тыс. в fp8. Модальности:Генерация текста Области применения:Диалог...
GIGABATEMAN-7B-GGUF
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: DZgas Теги: gguf, quantized, 2-bit, 4-bit, 5-bit, 6-bit, 8-bit,...
Merged-RP-Stew-V2-34B_exl2_8.0bpw
Это квант EXL2 с битрейтом 8,0 бит/вт ParasiticRogue/Merged-RP-Stew-V2-34B. Подробности о модели и информацию о слиянии можно найти на...
Qwen1.5-72B-Chat-GPTQ-Int8
Qwen1.5 — это бета-версия Qwen2, языковой модели только для декодера на основе преобразователя, предварительно обученной на большом объеме...
Skywork-13B-Base-8bits
👨💻 Github • 🤗 Hugging Face• 🤖 ModelScope • 💬 WeChat• 📜Технический отчет Skywork-13B-Base может быть заменен 量清洗过滤的3.2万亿个多语言（主要是中文和英文）和代码数据上进行预训练，它在多种评测和各种基准测试上都展现了同等规模模型的最佳效果。...