«Основная» ветка содержит только файл Measure.json, загрузите одну из других веток для модели (см. ниже). Каждая ветка содержит отдельные биты на вес, а основная содержит только файл meaurement.json для дальнейших преобразований. Исходная модель: https://huggingface.co/brucethemoose/Yi-34B-200K-RPMerge Чтобы загрузить основную ветку (полезно только в том случае, если вас интересует только измерение.json) в папку с именем Yi-34B-200K-RPMerge-exl2: Чтобы загрузить из другой ветки, добавьте параметр —revision: Windows (которая, видимо, иногда не любит _ в папках?): Хотите поддержать мою работу? Посетите мою страницу ко-фи здесь: https://ko-fi.com/bartowski
Модальности:
Генерация текста
Задача: Генерация текста
Автор: bartowski
Теги: mergekit, merge, Yi, exllama, exllamav2, exl2, en, endpoints_compatible
Лайков: 7 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
