Модель mlx-community/QwQ-32B-6bit была преобразована в формат MLX из Qwen/QwQ-32B с использованием mlx-lm версии 0.21.5.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mlx-community
Теги: mlx, qwen2, chat, conversational, en, 6-bit
Лайков: 3 | Загрузок: 49
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Эта модель представляет собой модель 30B LLaMa, настроенную на сочетание наборов данных инструкций (FLAN V2, CoT, Dolly, Open...
Вы можете следовать этим настройкам формата инструкций в SillyTavern. Замените tiny желаемой длиной ответа: Вдохновленный ранее названной предустановкой...
Эта модель представляет собой настроенную по инструкции версию ⭐️ StarCoder. Используемый набор данных инструкций — это Self-instruct-starcoder, который...
Gemma 4 31B Инструкция, квантованная до 4-бит для Apple Silicon с использованием MLX. — Базовая модель: google/gemma-4-31B-it —...
