Это инструкция lama 3 8b, обученная на книжных данных, r64, контекст 8k, 5e-5 lr, 3 эпохи. Держите температуру ниже. От 0,5 до 0,7 кажется хорошим. Обычно я также использую немного min-p и сглаживание. Я использовал одну из этих подсказок в качестве системной подсказки для каждого образца. Ходы пользователей в настоящее время разбиты на три группы: Глава, Продолжить, История Chapterformat = «// Глава {0}» continueformat = «// Продолжить» * модель обучалась, выполняя 25 % ходов и помещая первое предложение в пользовательский блок. Любую некомментированную строку следует считать историей.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: maldv
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 13
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
