Эта модель представляет собой точно настроенную версию axolotl-ai-co/gemma-2-9b в наборе данных None. При обучении использовались следующие гиперпараметры: — скорость обучения: 3e-05 — размер партии: 2 — размер партии: 2 — семя: 42 — распределенный тип: мульти-GPU — количество устройств: 8 — шаги градиентной аккумуляции: 4 — общий размер партии: 64 — общий размер партии: 16 — оптимизатор: Адам с бета=(0,9,0,95) и эпсилон= 1e-08 — тип lrschedulertype: косинус — lrschedulerwarmupsteps: 44 — количество эпох: 1 — Трансформаторы 4.42.3 — Pytorch 2.1.2 cu118 — Наборы данных 2.19.1 — Tokenizers 0.19.1
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: openaccess-ai-collective
Теги: gemma2, generated_from_trainer, conversational, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 26
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
