Добро пожаловать в версию ruGPT-3.5 13B LoRA, предназначенную только для адаптера. Данная модель построена на основе ruGPT-3.5-13B. 📌 Важно: эта модель была обучена с использованием настроек, идентичных GigaSaiga, но включает дополнительный набор данных. > Примечание. Если вы предпочитаете, вы можете выбрать базовую модель ruGPT-3.5 13B fp16. Наборы данных, использованные для обучения этой модели, соответствуют наборам данных, использованным для Сайги-2. — ruturboalpaca — ruturboalpacaevolinstruct — ruturbosaiga -rusharegptcleaned — oasst1rumainbranch — gptroleplayrealm — Ruinstruct_gpt4 Во время обучения использовалась следующая конфигурация квантования bitsandbytes: — quantmethod: bitsandbytes — loadin8bit: True — loadin4bit: False — llmint8threshold: 6.0 — llmint8skipmodules: Нет — llmint8enablefp32cpuoffload: False — llmint8hasfp16weight: False — bnb4bitquanttype: fp4 — bnb4bitusedoublequant: False — bnb4bitcompute_dtype: float32 Для совместимости убедитесь, что у вас установлены следующие версии платформы: — PyTorch 2.1.0 — PEFT 0.5.0 — биты и байты 0.41.1 — трансформеры 4.34.0 — https://t.me/evilfreelancer — https://dzen.ru/evilfreelancer
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: evilfreelancer
Теги: peft, Saiga, ruGPT-3.5, 13B, chat, lora, Peft, adapter
Лайков: 12 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
