> ⚠️ Экспериментальная модель. Метрики не снимались (только ручной смук-квиз). Не для продакшена. Русскоязычная 1Б-модель с работающим -режимом. Получено в два этапа: 1. Слияние: T-Wix LoRA (r=32, обучено на этапе openbmb/MiniCPM5-1B на ~461 тыс. русских диалогов t-tech/T-Wix) применено к дистилляту GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking через PeftModel + mergeandunload(). 2. Reasoning-SFT (v2, текущая версия): объединить дообученный LoRA (r=16, LR 2e-5, 1 эпохи) на Reasoning-сабсете T-Wix — 31k примеров с русскими -трейсами; управляющие суффиксы/думать из данных убраны, чтобы думать, как вести себя по умолчанию. Что работает: — включается сам на задачах, где уместен (математика, рассуждения), анализирует языковые вопросы (RU-вопрос → русский трейс, EN → английский), закрывает блок и дает ответ — Пошаговая математика с самопроверкой внутри think — Вызов инструмента: корректно выбирает функцию и аргументы — Беглый русский с хорошей структурой найдены дефекты: — На выкладках think может не положиться в несколько maxnewtokens — ставить ≥1000–2000 — Фактология на английском языке слабая (модель 1B): для фактов викор RAG — Перевод EN→RU нестабилен — относительно…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: kaufkino
Теги: gguf, llama, merge, lora, russian, thinking, tool-calling, experimental
Лайков: 5 | Загрузок: 1,433
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
