Experimental works with fix/glm5.2-quant-nextn-bounds Internal MR
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DevQuasar
Теги: gguf, endpoints_compatible, conversational
Лайков: 3 | Загрузок: 1,025
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
This model was converted to GGUF format from ZeroXClem/Llama3.1-DarkStorm-Aspire-8B using llama.cpp via the ggml.ai’s GGUF-my-repo space. Refer to...
Сборки GGUF KeyLM-75M-Instruct для llama.cpp, LM Studio, Ollama и других сред выполнения GGUF. KeyLM — это 75M-параметрическая языковая...
— Это квантованная версия Meta-Llama-3-8B с помощью GGUF. Создана с использованием последней версии llama.cpp от 5 мая 2024...
Original model: https://huggingface.co/Gryphe/Pantheon-RP-1.5-12b-Nemo Some of these quants (Q3KXL, Q4KL etc) are the standard quantization method with the embeddings...
