Эта модель представляет собой смесь allenai/tulu-2-dpo-70b, Xwin-LM/Xwin-LM-70B-V0.1 и dreamgen/opus-v0.5-70b. Затем я объединил nRuaif/fiction.live-Kimiko-V2-70B в полученную смесь. Точные используемые настройки см. внизу этой карты. Эта модель хороша как для следования инструкциям, так и для создания творческого, не подвергающегося цензуре повествования и ролевого контента. Эта модель получилась совсем без цензуры. Вы несете ответственность за все, что вы с ним делаете. Эта модель была разработана для ролевых игр и рассказывания историй, и я думаю, что она хорошо справляется с обоими задачами. Он должен хорошо справляться с другими задачами, но я не проверял его возможности в других областях. Я рекомендую поддерживать максимальный контекст на уровне около 6144 токенов, хотя вы можете увеличить его, если не возражаете против некоторого снижения согласованности. Я рекомендую использовать квадратичную выборку (т. е. коэффициент сглаживания), поскольку это хорошая вещь. Поэкспериментируйте со значениями от 0,2 до 0,5. Я рекомендую использовать Min-P. Эта модель, кажется, хорошо работает со значениями Min-P во всем диапазоне от низких настроек, таких как 0,05, до высоких настроек, таких как 0,9, в сочетании с коэффициентом сглаживания. Поэкспериментируйте, чтобы найти наилучшие настройки. Если хотите, вы можете включить динамическую температуру, но это добавляет еще одну переменную в…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: sophosympatheia
Теги: llama, en, model-index, text-generation-inference, endpoints_compatible
Лайков: 22 | Загрузок: 467
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
