Модель основана на SuperNova-Medius (как лучшая на данный момент модель 14B) с контекстом 128k с упором на креативность, включая NSFW и многоходовые разговоры. Согласно моим тестам, эта тонкая настройка гораздо более стабильна с разными сэмплерами, чем исходная модель. Цензура и отказы были сокращены. Модель стала лучше следовать подсказкам системы, а ответы в формате ChatML с плохими сэмплерами перестали без причины достигать 800+ токенов. Я добавил еще больше данных обучения. Модель обучалась на NVIDIA A10.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Ttimofeyka
Теги: qwen2, unsloth, trl, sft, conversational, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
