Эта модель с параметрами 70B представляет собой мое первое объединение некоторых из моих любимых моделей для повествования и RP: BruhzWater/Sapphira-L3.3-70b-0.2 sophosympatheia/Strawberrylemonade-L3-70B-v1.2 BruhzWater/Edens-Fall-L3.3-70b-0.3c. Вам также предлагается опробовать эти замечательные модели по отдельности. Спасибо создателям этих моделей и мержей, а также спасибо TheDrummer за Anubis (часть мержа Sapphira). Квантование EXL3 4 бита в минуту: https://huggingface.co/Ionze/Lilitu-L3.3-70b-0.1-exl3-4bpw EXL3 4,25 бита в минуту: https://huggingface.co/Ionze/Lilitu-L3.3-70b-0.1-exl3-4.25bpw EXL3 4,5 бита в секунду: https://huggingface.co/Ionze/Lilitu-L3.3-70b-0.1-exl3-4.5bpw Автор mradermacher: Статические кванты: https://huggingface.co/mradermacher/Lilitu-L3.3-70b-0.1-GGUF Кванты iMatrix: https://huggingface.co/mradermacher/Lilitu-L3.3-70b-0.1-i1-GGUF Мои настройки: Температура: 1 Мин P: 0,03 Top P: 0,9 Top K: 0 Типичный_P: 1 Штраф за повторение: 1,05 Диапазон повторения пера: 4096 Порог XTC: 0,1 Вероятность XTC: 0 Множитель DRY: 0.8 DRY База: 1.8 DRY Допустимая длина: 3 Сухой Диапазон штрафов: 4096 Или используйте предоставленные пресеты ST. Конфигурация слияния: модели: — модель: ./Sapphira-L3.3-70b-0.2 параметры: вес: 0,55 плотность: 0,6 — модель:…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Ionze
Теги: llama, mergekit, merge, not-for-all-audiences, roleplay, conversational, en, text-generation-inference
Лайков: 5 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
