Мы искренне благодарим разработчиков и участников сообщества открытого исходного кода за предоставление версии BF16 и файла imatrix. Мы очень ценим внимание и также рады поделиться дополнительными вариантами квантования, которые каждый может попробовать и поэкспериментировать — надеюсь, они вам понравятся! > Загрузка Доступна для HuggingFaceHub, HuggingFace-Cli, SnapshotDownload, Xet. Пример запуска gguf с локальной сборкой llama.cpp. (llama-cli/llama-server) Этот репозиторий основан на выдающихся работах следующих авторов и проектов с открытым исходным кодом: — MiniMaxAI/MiniMax-M2.1 — ggml-org/llama.cpp, unsloth.ai, bartowski. — ikawrakow/ik_llama.cpp, ikawrakow, убергарм. Мы искренне благодарим их за выдающийся вклад в сообщество открытого исходного кода.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: moxin-org
Теги: gguf, MiniMaxAI, MiniMaxM2ForCausalLM, GGUF, llama.cpp, moxin-org, endpoints_compatible, imatrix
Лайков: 7 | Загрузок: 37
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
