Это версия Chronos-13b-v2 FP16 PyTorch/HF, основанная на базовой модели LLaMA v2. Используйте эту версию только для дальнейшего квантования или если вы хотите работать с полной точностью, если у вас есть необходимая видеопамять. Эта модель в первую очередь ориентирована на чат, ролевые игры, написание историй с хорошими рассуждениями и логикой. Chronos может генерировать очень длинные выходные данные со связным текстом, в основном благодаря вводу данных человеком, на котором он был обучен, и поддерживает длину контекста до 4096 токенов. В этой модели используется форматирование Альпака, поэтому для оптимальной производительности модели используйте его для начала диалога или истории, а если вы используете интерфейс, такой как SillyTavern, режим инструкций ENABLE: неиспользование формата приведет к тому, что модель будет работать значительно хуже, чем предполагалось.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: elinas
Теги: llama, chatbot, storywriting, generalist-model, text-generation-inference, endpoints_compatible
Лайков: 27 | Загрузок: 1,099
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
