— Результат чередования слоев Sao10K/Euryale-1.3-L2-70B, migtissera/SynthIA-70B-v1.2b и Xwin-LM/Xwin-LM-70B-V0.1 с использованием mergekit. — Полученная модель имеет 120 слоев и 103 миллиарда параметров. — Подробную информацию об используемом методе слияния см. в mergekit-config.yml. — См. ветки exl2- для квантования exllama2. Квант с битой 5,65 бита в минуту должен вписываться в 80 ГБ видеопамяти, а квант со скоростью 3,35 бита в минуту — в 48 ГБ видеопамяти. — Вдохновлен Goliath-120b 1. Кажется более «разговорчивым», чем Venus-103b-v1.0 (т.е. персонажи говорят чаще в ролевых играх) 2. Более устойчив к nsfw/nsfl, чем 1.0. Если вы ищете ролевые игры без цензуры, я бы рекомендовал версию 1.0. 3. Иногда с трудом обращает внимание на мелкие детали в сценах. 4. Проза кажется довольно креативной и логичной, чем Venus-120b-v1.0.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: nsfwthrowitaway69
Теги: llama, not-for-all-audiences, en, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
