> ⚠️ Экспериментальная версия. Учебный/исследовательский прогон без формальной оценки качества — метрики на бенчмарках не снимались (доступен только eval loss в tensorboard-логах обучения). Не предназначена для продакшена. Русифицированная версия openbmb/MiniCPM5-1B: LoRA SFT на русскоязычном датасете t-tech/T-Wix (~461 тыс. диалогов, сабсеты general + reasoning + longcontext; englishcorpus исключён). Базовая модель официально поддерживает только английский и китайский — этот тюнинг адаптирует её к русскому языку. У базовой модели есть гибридный thinking-режим (…), переключается параметром enablethinking в applychattemplate. Рекомендации базовой карточки: think — temperature 0.9 / topp 0.95, no-think — temperature 0.7 / top_p 0.95. Обучение проводилось на облачном GPU-сервере Selectel (реферальная ссылка) — 1× NVIDIA RTX 4090 24 ГБ, ~24 часа на 2 эпохи. EN: Experimental Russian-language adaptation of MiniCPM5-1B via LoRA SFT (r=32, 2 epochs, 8192 ctx, packing) on the T-Wix dataset (~461k Russian dialogues). Repo contains merged bf16 safetensors (root), the LoRA adapter (/lora), and GGUF F16/BF16/Q80 (/gguf`). No benchmark evaluation was performed — research artifact, not for…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: kaufkino
Теги: gguf, llama, lora, sft, unsloth, trl, russian, experimental
Лайков: 4 | Загрузок: 241
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.