cyankiwi/JoyAI-LLM-Flash-AWQ-4bit

Website cyan.kiwi Models Hugging Face · ModelScope Connect X · Reddit · Email Version llm-compressor Calibration nvidia/Llama-Nemotron-Post-Training-Dataset Model Size 28.70 GB —————————————: | :———————-: | Benchmark JoyAI-LLM Flash Qwen3-30B-A3B-Instuct-2507 GLM-4.7-Flash(Non-thinking) Knowledge & Alignment MMLU 89.50 86.87 80.53 MMLU-Pro 81.02 73.88 63.62 CMMLU 87.03 85.88 75.85 GPQA-Diamond 74.43 68.69 39.90 Supe > Currently, JoyAI-LLM Flash is recommended to run on the following inference…

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: cyankiwi
Теги: deepseek_v3, conversational, custom_code, zh, en, text-generation-inference, endpoints_compatible, compressed-tensors
Лайков: 3 | Загрузок: 33

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

nolanoAI/Hi-NOLIN-9B

Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: nolanoAI Теги: gpt_neox, text-generation-inference, endpoints_compatibleЛайков: 6 | Загрузок: 2...

Генерация текста

QuantFactory/LongWriter-glm4-9b-GGUF

![](https://lh7-rt.googleusercontent.com/docsz/AD_4nXeiuCm7c8lEwEJuRey9kiVZsRn2W-b4pWlu3-X534V3YmVuVc2ZL-NXg2RkzSOOS2 JXGHutDuyyNAUtdJI65jGTo8jT9Y99tMi4H4MqL44Uc5QKG77B0d6-JfIkZHFaUA71-RtjyYZWVIhqsNZcx8-OMaA?key=xt3VSDoCbmTY7o-cwwOFwQ) Это квантованная версия THUDM/LongWriter-glm4-9b, созданная с использованием llama.cpp 🤗 [LongWriter Dataset] • 💻 [Github Repo] •...

Генерация текста

Open-Orca/Mixtral-SlimOrca-8x7B

Официальный релиз тонкой настройки SlimOrca Mixtral. Более подробная информация будет позже. — Разработано: OpenAccess AI Collective и OpenOrca....

Генерация текста

Qwen/Qwen1.5-0.5B-Chat-GGUF

Qwen1.5 — это бета-версия Qwen2, языковой модели только для декодера на основе преобразователя, предварительно обученной на большом объеме...