Мой репозиторий GGUF (есть только Q4KM, я такой ленивый): https://huggingface.co/Alsebay/SaoRPM-2x8B-beta-GGUF Спасибо mradermacher за количественный анализ GGUF: https://huggingface.co/mradermacher/SaoRPM-2x8B-GGUF Версия Imatrix: https://huggingface.co/mradermacher/SaoRPM-2x8B-i1-GGUF
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Alsebay
Теги: mixtral, Roleplay, conversational, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.