brucethemoose/Yi-34B-200K-RPMerge-exl2-40bpw

См. карточку основной модели: https://huggingface.co/brucethemoose/Yi-34B-200K-RPMerge Квантовано с квантованием exl2 по умолчанию, все еще изучаются преимущества и недостатки квантования с длинным контекстом (32 КБ). Эта модель была объединена с использованием метода слияния DARE TIES с использованием /home/alpha/Models/Raw/chargoddard_Yi-34B-200K-Llama в качестве основы. В объединение были включены следующие модели: /home/alpha/Models/Raw/migtisseraTess-34B-v1.5b /home/alpha/Models/Raw/migtisseraTess-M-Creative-v1.0 /home/alpha/Models/Raw/cgatoThespis-34b-DPO-v0.7 /home/alpha/Models/Raw/Nous-Capybara-34B /home/alpha/Models/Raw/admolimarp /home/alpha/Models/Raw/DrNicefellow_ChatAllInOne-Yi-34B-200K-V1 Для создания этой модели использовалась следующая конфигурация YAML:

Модальности:
Генерация текста

Задача: Генерация текста
Автор: brucethemoose
Теги: llama, mergekit, merge, Yi, exllama, exllamav2, exl2, en
Лайков: 20  |  Загрузок: 14

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.