Cat1.0 — это доработанная версия базовой модели Llama-3-1-8b, оптимизированная для ролевых игр, логических задач и задач рассуждения. Используя итеративную тонкую настройку и журналы чата с использованием искусственного интеллекта, эта модель хорошо работает для многочисленных сценариев чата. — Параметры: 8 миллиардов (8B) — Точность: bf16 (16-битная мозговая плавающая точка) — Метод точной настройки: LoRa (низкоранговая адаптация) — Ранг Lora: 32 — Lora Alpha: 64 — Скорость обучения: 0,0008 — Эпохи обучения: 4 — Используемые наборы данных: — cat1.0 Набор данных для ролевых игр — cat1.0 Набор данных для рассуждений и логики — Подход точной настройки: итеративная точная настройка с использованием журналов самостоятельного чата. Для достижения оптимальной производительности этой модели я рекомендую следующие настройки: > Примечание. Из-за характера тонкой настройки установка температуры на 1,1 или выше помогает предотвратить повторение модели и стимулирует более творческие и последовательные ответы. Я рекомендую использовать oobabooga text-generation-webui для оптимального опыта. Загрузите модель с точностью bf16 и включите flash-attention2 для повышения производительности. Вы можете взаимодействовать с моделью, используя формат чата или формат чата. Вот пример: ниже приведены несколько примеров, демонстрирующих эффективность модели в различных ролевых играх…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: rwitz
Теги: llama, en
Лайков: 9 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
