mmnga/stockmark-13b-GPTQ-calib-ja-1k - Каталог нейросетей
Генерация текста

mmnga/stockmark-13b-GPTQ-calib-ja-1k

Добавлено:
mmnga/stockmark-13b-GPTQ-calib-ja-1k

stockmarkさんが公開している、stockmark-13bを、 日本語のキャリブレーションセットで生成したGPTQモデルになります。 キャリブレーションセットはizumi-lab/wikipedia-ja-20230720から、 1kほどランダムサンプリングしたものと、 ELYZA-tasks-100のinput/outputを計200ほど追加しています。 mmnga/wikipedia-ja-20230720-1k ~~~python from auto_gptq import AutoGPTQForCausalLM, BaseQuantizeConfig from transformers import AutoTokenizer tokenizer = AutoTokenizer.frompretrained(modelnameorpath, trustremotecode=True) model = AutoGPTQForCausalLM.fromquantized(modelnameorpath, use_safetensors=

Модальности:
Генерация текста

Задача: Генерация текста
Автор: mmnga
Теги: llama, endpoints_compatible
Лайков: 3  |  Загрузок: 15

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #endpoints_compatible #llama

Похожие модели (Генерация текста)

Генерация текста

Akhil-Theerthala/Kuvera-14B-v0.1.0

Эта модель представляет собой адаптированную к LoRA версию deepseek-ai/DeepSeek-R1-Distill-Qwen-14b, специально настроенную для расширения возможностей рассуждения для сложных запросов...

7
HF Подробнее
Генерация текста

MiniMaxAI/SynLogic-32B

🐙 Репозиторий GitHub: https://github.com/MiniMax-AI/SynLogic 📜 Бумага (arXiv): https://arxiv.org/abs/2505.19641 🤗 Набор данных:** SynLogic on Hugging Face SynLogic-32B — это...

267
HF Подробнее
Генерация текста

AdaptLLM/medicine-LLM

Этот репозиторий содержит базовую модель для конкретной предметной области, разработанную на основе LLaMA-1-7B с использованием метода, описанного в...

87
HF Подробнее
Генерация текста

p-e-w/Qwen3-4B-Instruct-2507-heretic

*: Для воспроизводимости мы сообщаем процент побед, оцененный по GPT-4.1. Код Qwen3 был в последних трансформерах Hugging Face,...

3.3k
HF Подробнее