bartowski/Magicoder-S-CL-7B-exl2 - Каталог нейросетей
Генерация текста

bartowski/Magicoder-S-CL-7B-exl2

Добавлено:

Каждая ветвь содержит отдельное количество битов на вес, а основная ветвь содержит только файл meaurement.json для дальнейших преобразований. Преобразование было выполнено с использованием Evol-Instruct-Code-80k-v1.parquet в качестве калибровочного набора данных. Использовались аргументы по умолчанию, за исключением случаев, когда количество битов на вес превышало 6,0. В таких случаях слой lm_head квантовался с использованием 8 бит на вес вместо стандартных 6. Исходная модель: https://huggingface.co/ise-uiuc/Magicoder-S-CL-7B Чтобы скачать основную ветку (актуально только в том случае, если вам нужен только файл measurement.json) в папку под названием Magicoder-S-CL-7B-exl2: Чтобы скачать из другой ветки, добавьте параметр —revision:

Модальности:
Генерация текста

Области применения:
Генерация кода


Задача: Генерация текста
Автор: bartowski
Теги: endpoints_compatible
Лайков: 2  |  Загрузок: 4

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.