Матрица важности рассчитана с использованием groupsmerged.txt 105 фрагментов nctx=512 В расчетах используются веса прецизионной модели fp32 LoRA группы случайных наборов данных поверх Mistral-Small-Instruct-2409, а затем SLERP переносится на базовое значение 0,5. Достаточно приличный для своего размера. Проверьте LoRA на наличие информации о наборе данных.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Quant-Cartel
Теги: gguf, iMat, GGUF, endpoints_compatible, imatrix, conversational
Лайков: 4 | Загрузок: 332
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
