Эта модель представляет собой точно настроенную версию Alpindale/Mistral-7B-v0.2-hf в наборе данных Samanta-PL-AG-axolotl. Во время обучения использовались следующие гиперпараметры: — скорость обучения: 5e-06 — размер партии: 3 — размер партии: 3 — семя: 42 — распределенный тип: мульти-GPU — количество устройств: 2 — шаги градиентной аккумуляции: 8 — общий размер партии: 48 — общий размер партии: 6 — оптимизатор: Адам с бета=(0,9,0,95) и эпсилон= 1e-05 — тип lrschedulertype: косинус — lrschedulerwarmupsteps: 10 — num_epochs: 4
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: AdamGrzesik
Теги: gguf, mistral, generated_from_trainer, conversational, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 56
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
