— Это квантованная версия CausalLM/35b-beta-long, созданная с использованием llama.cpp Tokenizer, отличается от Cohere — и шаблон чата — ChatML — полностью настроен на 128K+ Тестирование под давлением с: https://github.com/LeonEricsson/llmcontext
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, en, zh, ja, de, endpoints_compatible, conversational
Лайков: 13 | Загрузок: 140
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.