GPTQ 4-битное CUDA-квантование 30B Lazarus от CalderaAI: https://huggingface.co/CalderaAI/30B-Lazarus
Модальности:
Генерация текста
Задача: Генерация текста
Автор: CalderaAI
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 13 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Qwen2.5-7B-Instruct-R1-forfinance 是一个专门针对金融领域进行微调的大语言模型。该模型基于 Qwen2.5-7B-Instruct Qwen2.5-7B-Instruct-R1-forfinance является большим языковая модель, специально настроенная для финансовой сферы. Эта модель основана на Qwen2.5-7B-Instruct...
Llama3-Немецкий-8B-v0.1 — это большая языковая модель, основанная на Llama3-8B от Meta. Он специализируется на немецком языке посредством непрерывного...
Исходная модель: https://huggingface.co/huihui-ai/Qwen3-14B-abliterated. Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Шаблон чата...
Исходная модель: https://huggingface.co/Undi95/Lumimaid-Magnum-12B Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
