В наборе оценок он достигает следующих результатов: — Потеря: 0,7193. Доступно по адресу: https://huggingface.co/bartowski/miniclaus-qw1.5B-UNAMGS-GGUF https://huggingface.co/QuantFactory/miniclaus-qw1.5B-UNAMGS-GGUF. Во время обучения использовались следующие гиперпараметры: — trainbatchsize: 1 — начальное число: 42 — распределенный тип: multi-GPU — numdevices: 8 — totaltrainbatchsize: 128 — totalevalbatchsize: 8 — оптимизатор: Адам с betas=(0.9,0.999) и epsilon=1e-08 — num_epochs: 1 — PEFT 0.13.2 — Transformers 4.45.2 — Pytorch 2.3.0+cu121 — Наборы данных 3.0.1 – Токенизаторы 0.20.1 – Команда Qwen за выдающуюся модель – Команда MagPie за предоставление большого количества наборов данных – Cybertron Cloud Compute
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: fblgit
Теги: qwen2, generated_from_trainer, conversational, zho, eng, fra, spa, por
Лайков: 8 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
