Cakrawala-Llama-3.1-8B — это доработанный вариант модели Llama-3.1-8B-Instruct, специально оптимизированный для создания насыщенных ролевых диалогов и взаимодействия персонажей. Модель была обучена преуспевать в создании подробных, контекстуально соответствующих диалогов персонажей с подробным описанием физических действий, выражений и эмоциональных состояний, сохраняя при этом одинаковые голоса и точки зрения персонажей на протяжении длительного взаимодействия. — Введено 13 000 пар разговоров. — Каждый разговор длится минимум 12–13 ходов. — Большое внимание уделяется деталям, таким как выражения лица, описания окружающей среды и реакции персонажей, которые в значительной степени сосредоточены на сохранении персонажа модели. — Обучение на Llama-3.1-8B-Instruct — Точная настройка с использованием QLoRA — Обучение в течение 2 эпох — Шаги накопления градиента: 1 — Размер микропакета: 4 — Скорость обучения: 0,0002 — Оптимизатор: AdamW — Планировщик: косинус — Смешанная точность: BF16 и FP16 с поддержкой TF32 — Лицензия MIT — На основе мета-лама/Llama-3.1-8B-Instruct — https://huggingface.co/mradermacher/Cakrawala-8B-GGUF — https://huggingface.co/mradermacher/Cakrawala-8B-i1-GGUF
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: NarrativAI
Теги: llama, axolotl, conversational, en
Лайков: 6 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
