Точная настройка модели SOLAR-10.7B-Instruct-v1.0 компании Upstage AI с использованием наборов данных OpenHermes, Platypus и Capybara. Дополнительно доработана версия Bagel v0.3 Джона Дурбина, а также несколько неизданных наборов данных. Эта тонкая настройка не имела нулевой центровки, данных по безопасности или чего-то еще, засунутого в глотку. Во время обучения использовалась следующая конфигурация квантования bitsandbytes: — quantmethod: bitsandbytes — loadin8bit: False — loadin4bit: True — llmint8threshold: 6.0 — llmint8skipmodules: None — llmint8enablefp32cpuoffload: False — llmint8hasfp16weight: False — bnb4bitquanttype: nf4 — bnb4bitusedoublequant: True — bnb4bitcompute_dtype: bfloat16
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: decapoda-research
Теги: llama, conversational, model-index, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
