Добро пожаловать в версию Saiga 7B LoRA, предназначенную только для адаптера. Данная модель построена на основе Nous-Yarn-Mistral-7b-128k. Наборы данных, используемые для обучения этой модели, соответствуют наборам данных, использованным для Сайги-2. — ruturboalpaca — ruturboalpacaevolinstruct — ruturbosaiga -rusharegptcleaned — oasst1rumainbranch — gptroleplayrealm — Ruinstruct_gpt4 Во время обучения использовалась следующая конфигурация квантования bitsandbytes: — quantmethod: QuantizationMethod.BITSANDBYTES — loadin8bit: False — loadin4bit: True — llmint8threshold: 6.0 — llmint8skipmodules: Нет — llmint8enablefp32cpuoffload: False — llmint8hasfp16weight: False — bnb4bitquanttype: nf4 — bnb4bitusedoublequant: True — bnb4bitcompute_dtype: bfloat16 Для совместимости убедитесь, что у вас установлены следующие версии платформы: — PyTorch 2.1.1 – PEFT 0.6.2 – биты и байты 0.41.2.post2 – преобразователи 4.35.2 – flash-attn 2.3.3 Версия кода набора данных: c6ffa82fa39bfedf2b33931095a3a8960a89ac37
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: evilfreelancer
Теги: peft, saiga, mistral, conversational, ru, en
Лайков: 10 | Загрузок: 2
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
