4-битная AWQ-версия модели blue/Karasu-Mixtral-8x22B-v0.1.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lightblue
Теги: mixtral, conversational, text-generation-inference, endpoints_compatible, 4-bit, awq
Лайков: 7 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
body { семейство шрифтов: ‘Quicksand’, без засечек; фон: линейный градиент (135 градусов, #0a1a1a 0%, #001010 100%); цвет: #e1ffff...
Модель mlx-community/Qwen2.5-Coder-7B-Instruct-4bit была преобразована в формат MLX из Qwen/Qwen2.5-Coder-7B-Instruct с использованием mlx-lm версии 0.18.1. Модальности:Генерация текста Области применения:Генерация...
Экспериментально, на основе: https://github.com/ggml-org/llama.cpp/pull/16831. Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: DevQuasar Теги: gguf, endpoints_compatible,...
Эта модель все еще находится в стадии W.I.P. и я не рекомендую использовать его в данный момент. Это...
