Эта модель является результатом слияния DARE TIES allenai/tulu-2-dpo-70b, популярного lizpreciatior/lzlv70bfp16hf и dreamgen/opus-v0.5-70b. Затем я объединил три LoRA в полученную смесь: линейное слияние 50-50 jondurbin/airoboros-l2-70b-2.2.1-peft с dfurman/Llama-2-70B-Instruct-v0.1-peft * nRuaif/fiction.live-Kimiko-V2-70B Midnight Rose является преемником Rogue Rose и Aurora Nights и улучшает их обоих. По умолчанию он хочет выдавать длинный результат, и это лучшее творческое объединение, которое я когда-либо создавал. Эта модель без цензуры. Вы несете ответственность за все, что вы с ним делаете. Эта модель была разработана для ролевых игр и рассказывания историй, и я думаю, что она хорошо справляется с обоими задачами. Он должен хорошо справляться с другими задачами, но я не проверял его возможности в других областях. Я рекомендую поддерживать максимальный контекст на уровне около 6144 токенов, хотя вы можете увеличить его, если не возражаете против некоторого снижения согласованности. Я рекомендую использовать квадратичную выборку (т. е. коэффициент сглаживания), поскольку это хорошая вещь. Поэкспериментируйте со значениями от 0,2 до 0,5. Я рекомендую использовать Min-P. Кажется, эта модель хорошо работает со значениями Min-P во всем диапазоне от низких настроек, например 0,05, до высоких настроек…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: sophosympatheia
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 31 | Загрузок: 202
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
