Q8_0 квантования XHToken/Spark-X2.5-4B, преобразованного из официального BF16 GGUF с совместимой реализацией XHToken/llama.cpp. Для поддержки Spark-X2.5 требуется совместимая реализация XHToken llama.cpp, указанная выше.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: end000
Теги: gguf, llama.cpp, sparkx2_5, q8_0, en, zh, endpoints_compatible, conversational
Лайков: 4 | Загрузок: 2,310
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.