ВНИМАНИЕ 1: Запускайте развивающую версию трансформеров и пефтов! ВНИМАНИЕ 2. Избегайте использования V100 (например, в Colab). В этом случае результаты намного хуже. ВНИМАНИЕ 3. Вместо этого вы можете использовать базовую модель Llama-2-7B-fp16. v2: — контекст расширен до 4096 — ссылка wandb — saiga27bv2 vs saiga2_7b: 85-23-68 v1: — версия кода набора данных 7712a061d993f61c49b1e2d992e893c48acb3a87 — ссылка wandb — 7 наборов данных: ruturboalpaca, ruturbosaiga, rusharegptcleaned, oasst1rumainbranch, gptroleplayrealm, ruturboalpacaevolinstruct (итерация 1/2), руинструктгпт4 — сценарий слияния наборов данных: createchatset.py — saiga7bv5 против saiga2_7b: 78-8-90
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: IlyaGusev
Теги: conversational, ru
Лайков: 34 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
