Экспериментально, на основе: https://github.com/ggml-org/llama.cpp/pull/16831.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DevQuasar
Теги: gguf, endpoints_compatible, imatrix, conversational
Лайков: 15 | Загрузок: 59
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.