Пакет Python «tiktoken» необходим для квантования модели в формат gguf. Поэтому мне пришлось создать форк GGUF My Repo (+tiktoken).
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: byroneverson
Теги: chatglm, glm, thudm, chat, abliterated, conversational, custom_code, zh
Лайков: 13 | Загрузок: 50
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.