Добро пожаловать в версию ruGPT-3.5 13B GGML, предназначенную только для адаптера. Данная модель построена на основе ruGPT-3.5-13B. 📌 Важно: эта модель была обучена с использованием настроек, идентичных GigaSaiga, но включает дополнительный набор данных. Наборы данных, использованные для обучения этой модели, соответствуют наборам данных, использованным для Сайги-2. — ruturboalpaca — ruturboalpacaevolinstruct — ruturbosaiga -rusharegptcleaned — oasst1rumainbranch — gptroleplayrealm — Ruinstruct_gpt4 Во время обучения использовалась следующая конфигурация квантования bitsandbytes: — quantmethod: bitsandbytes — loadin8bit: True — loadin4bit: False — llmint8threshold: 6.0 — llmint8skipmodules: Нет — llmint8enablefp32cpuoffload: False — llmint8hasfp16weight: False — bnb4bitquanttype: fp4 — bnb4bitusedoublequant: False — bnb4bitcompute_dtype: float32 Для совместимости убедитесь, что у вас установлены следующие версии платформы: — PyTorch 2.1.0 — PEFT 0.5.0 — биты и байты 0.41.1 — трансформеры 4.34.0 — https://t.me/evilfreelancer — https://dzen.ru/evilfreelancer
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: evilfreelancer
Теги: gpt2, ruGPT, conversational, ru, en, endpoints_compatible
Лайков: 8 | Загрузок: 3
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
