Spell-Corrector-RU-4B — языковая модель для автоматического исправления орфографических, пунктуационных и регистровых ошибок в русскоязычных текстах. Модель дообучена на базе RefalMachine/RuadaptQwen3-4B-Instruct (адаптированная под русский язык версия Qwen/Qwen3-4B-Instruct-2507) методом LoRA в фреймворке LLaMA-Factory. LoRA-адаптер уже смержен с базовой моделью — её можно использовать напрямую. 📦 Код, ноутбуки и полное описание проекта: github.com/melsmm/llm-spell-corrector 📚 Датасеты для обучения: melsmm/spell-correction-ru Модель принимает текст с ошибками и возвращает его исправленную версию. Она умеет: — 🔤 исправлять орфографические ошибки и опечатки; — ❓ восстанавливать и исправлять пунктуацию; — 🔠 восстанавливать регистр букв (заглавные/строчные) и букву «ё». Основное преимущество перед существующими решениями (например, SAGE на архитектуре T5) — высокая скорость инференса (через vLLM, ~в 6 раз быстрее), простота внедрения в продакшен через OpenAI-совместимый API и лёгкость дообучения под новые домены с помощью LoRA. Сначала модель учится на большом объёме разнообразных синтетических ошибок, затем «дошлифовывается» на меньшем, но более качественном наборе реальных пар. Оба…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: melsmm
Теги: qwen3, spell-correction, spelling-correction, punctuation-restoration, grammatical-error-correction, russian, lora, conversational
Лайков: 3 | Загрузок: 796
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
