ali-arshiya/moeinGTS1.5-3b

moeinGTS 1.5-3B یک مدل زبانی فشرده، قدرتمند و بهینه‌شده برای زبان فارسی است که بر پایه معماری Qwen2.5 آموزش دیده و توسعه یافته است. مدل پایه (Base Model): Qwen2.5-3B روش آموزش: Instruction Fine-Tuning با استفاده از روش LoRA / PEFT سخت‌افزار آموزش: NVIDIA T4 / A100 GPUs Hyperparameters: Learning Rate: 2e-4 Batch Size: 4 Gradient Accumulation Steps: 4 Optimizer: AdamW «`python import torch from transformers import AutoModelForCausalLM, AutoTokenizer tokenizer = AutoTokenizer.frompretrained(repoid) model = AutoModelForCausalLM.frompretrained( repoid, torchdtype=torch.float16, devicemap=»auto» ) promp

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: ali-arshiya
Теги: qwen2, conversational, fa, en, text-generation-inference, endpoints_compatible
Лайков: 3  |  Загрузок: 145

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.