Created for fast inference with KoboldAI 4bit version (GPTQ version 1)
Модальности:
Генерация текста
Задача: Генерация текста
Автор: dcbv
Теги: llama, en, fr, de, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: mlx-community Теги: mlx, glm_moe_dsa, conversational,...
Эта модель mlx-community/Kimi-K2-Instruct-0905-mlx-DQ3KM была конвертирована в формат MLX из Moonshotai/Kimi-K2-Instruct-0905 с использованием mlx-lm версии 0.26.3. Это создано для...
(Модель сохраняется в формате Mistral, но вам следует использовать альпаку.) Некоторые из этих квантов (Q3KXL, Q4KL и т....
Аврора: Активация возможности китайского чата для Мистраль-8x7B с разреженной смесью экспертов посредством настройки инструкций 1. Следуйте нашему Github:...
