> [!WARNING] > Выборка общего назначения: > Mistral-Nemo-12B очень чувствителен к температурному пробоотборнику, сначала попробуйте значения около 0,3, иначе вы получите странные результаты. Об этом упоминает MistralAI в своем разделе «Трансформаторы». > [!ПРИМЕЧАНИЕ] > Лучшие сэмплеры: > Я нашел лучший успех, используя следующее для Hollow-Tail-V1-12B: > Температура: 1.2 > Top K: -1 > Min P: 0.05 > Rep Penalty: 1.08 Кажется, немного умнее, чем я ожидал от моего опыта. Может потребоваться небольшое руководство через системные подсказки в начале, но это было довольно весело использовать. Хотя одна вещь, которую я понял с Mistral-Nemo, заключается в том, что модель на самом деле не заканчивается правильно, поэтому вместо этого я использую следующий формат: очевидно, это только мой личный опыт, но я считаю, что это хорошая настройка, я настоятельно рекомендую вам поэкспериментировать с различными форматами системы и посмотреть, какой из них лучше для вас. Обратите внимание, что ни одна из этих моделей не настроена для этого конкретного формата, я считаю, что большинство из них точно настроены на исходный формат [INST] и [/INST] Mistral или ChatML. Оригинальные модели: — Sao10K/MN-12B-Lyra-v2a1 (Большое спасибо за работу♥) — migtissera/Tess-3-Mistral-Nemo-12B (Большое спасибо за работу♥)…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: starble-dev
Теги: mistral, conversational, text-generation-inference, mergekit, merge, endpoints_compatible
Лайков: 3 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
