Я предлагаю использовать ChatML (используйте любую системную подсказку, которая вам нравится, это всего лишь пример!): Q4KS GGUF: https://huggingface.co/Yuma42/KangalKhan-RawRuby-7B-GGUF Дополнительные варианты GGUF от mradermacher: ПРЕДУПРЕЖДЕНИЕ: Я заметил, что эти версии в редких случаях выдают опечатки. Если у вас такая же проблема, используйте мой Q4KS GGUF выше. https://huggingface.co/mradermacher/KangalKhan-RawRuby-7B-GGUF взвешенный/imatrix GGUF от mradermacher: https://huggingface.co/mradermacher/KangalKhan-RawRuby-7B-i1-GGUF KangalKhan-RawRuby-7B представляет собой объединение следующих моделей с использованием LazyMergekit: Yuma42/KangalKhan-Ruby-7B-Fixed Yuma42/KangalKhan-RawEmerald-7B
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Yuma42
Теги: mistral, merge, mergekit, lazymergekit, Yuma42/KangalKhan-Ruby-7B-Fixed, Yuma42/KangalKhan-RawEmerald-7B, conversational, en
Лайков: 6 | Загрузок: 88
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.