Оригинальная модель Chronos-13B была объединена с LoRA, обученной на большинстве из 1500 образцов в диапазоне токенов 8000 в том же стиле, с отсечением токенов 8K в полном 8-битном формате. Он предназначен для использования отдельно, но если вы хотите, чтобы LoRA сливался/объединялся самостоятельно, вы можете найти его здесь https://huggingface.co/ZeusLabs/chronos-13b-8k-lora config.json включает в себя модификации, допускающие расширенный контекст, поэтому вам нужно будет использовать его с кодом trustremotecode, если вы не используете Exllama. 4bit (int4) quantized version using true-sequential and groupsize 128 of https://huggingface.co/elinas/chronos-13b plus https://huggingface.co/ZeusLabs/chronos-13b-8k-lora Эта модель в основном ориентирована на чат, ролевую игру и написание историй, но может выполнять и другие задачи, такие как простые рассуждения и кодирование. Chronos генерирует очень длинные выходные данные с согласованным текстом, во многом благодаря человеческому вводу, на котором он был обучен. В этой модели используется форматирование Alpaca, поэтому для оптимальной производительности модели используйте:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: elinas
Теги: llama, chatbot, gptq, storywriting, custom_code, endpoints_compatible
Лайков: 3 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
