Представляем ScarletPajama: языковую модель, настроенную на основе набора данных ShareGPT. Построен на надежной архитектуре RedPajama-INCITE-Chat-3b. Исходный набор данных ShareGPT состоял из 53 тысяч пар диалоговых сообщений. В целях оптимизации процесса обучения набор данных был преобразован в соответствующий формат и отфильтрован для удаления длинных текстов. Полученная отфильтрованная версия ShareGPT содержит 22 тыс. пар, что обеспечивает более целенаправленный и эффективный процесс обучения. — Название модели: ScarletPajama — Базовая модель: RedPajama-INCITE-Chat-3b — Набор данных: ShareGPT-22K — Точная настройка Эпох: 2
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Fredithefish
Теги: gpt_neox, text-generation-inference
Лайков: 9 | Загрузок: 895
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
