 Это квантованная версия byroneverson/glm-4-9b-chat-abliterated, созданная с использованием llama.cpp. Пакет Python «tiktoken» необходим для квантования модели в...
Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в котором вложения и...
Исходная модель: THUDM/glm-4-9b-chat Исходный тип dtype: BF16 (bfloat16) Квантизация: https://github.com/ggerganov/llama.cpp/pull/6999 Набор данных IMatrix: здесь — Файлы — IMatrix...
GLM-4-9B-Chatを、日本語のWikiデータを選定し、追加学習した日本語に非常に強いスコアを出したモデルです。 Elyza-Tasksにおいては、GPT-4oによる評価結果に基づくと、GPT3.5Turboを超えるスコアを出す結果となりました。最終的には、名前を変更するかもしれませんが、まだ開発途上の為、v0.3としています。 ElyzaTasksをGPT-4oにより自動評価結果においても、GPT-3.5T urboを上回る結果で、10Bを下回るクラスでは非常に高いスコアとなっています。 !image/png ЛИЦЕНЗИЯ 利用に際しては、GLM-4のライセンス及び、利用規約に準拠する必要があります。 !Лицензия !ReadMe Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста...
Исходная модель: THUDM/codegeex4-all-9b Исходный тип dtype: BF16 (bfloat16) Квантизация: https://github.com/ggerganov/llama.cpp/pull/8031 Набор данных IMatrix: здесь — Файлы — IMatrix...
Если вы используете веса из этого репозитория, обновите их до «Эти веса несовместимы со старыми версиями библиотеки трансформаторов»....
Эта модель была преобразована в формат GGUF из byroneverson/glm-4-9b-chat-abliterated с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную...
Исходная модель: https://huggingface.co/byroneverson/glm-4-9b-chat-abliterated Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования с...
Пакет Python «tiktoken» необходим для квантования модели в формат gguf. Поэтому мне пришлось создать форк GGUF My Repo...
> [!ВНИМАНИЕ] > Внимание! > Эта модель еще не поддерживается должным образом в llama.cpp и не будет работать....
