Эта модель показывает, что можно сделать с помощью пользовательского «микро» Qwen 3 (параметры 1B), используя настройку 16 бит/32 бит, набор данных премиум-класса, правильное квантование (на уровне 32 бит), структурные модификации модели (расширение модели до 42 слоев, 465 тензоров), а затем сопоставление набора данных Imatrix с набором обучающих данных и «максимальное использование» критических частей квантов GGUF. Точная настройка ужасов с использованием собственного набора данных ужасов, настроенного с помощью Unsloth. Модель можно использовать для любого типа повествования, поскольку она СТРОГО соответствует заданию. Все кванты дополнены 16-битным выходным тензором, а выходной тензор мощности Q8 — 32 бита. Эта модель является подтверждением концепции создания более крупных моделей MOE с использованием «микро» Qwen3, обученных по параметрам 1B, в качестве ОБУЧЕННЫХ ЭКСПЕРТОВ. Это открывает возможности для изготовления моделей MOE по индивидуальному заказу, обучаемых на потребительском оборудовании по одному «эксперту» за раз. Настройка этой модели достаточно сильна, чтобы придать почти всем историям, ролевым приключениям, художественной литературе и даже «общим ответам» оттенок ужаса, даже если подсказка не требует или не указывает на «ужасный» ответ/генерацию. ДА: Даже «детские сказки на ночь» МОГУТ СОДЕРЖАТЬ элементы ужасов или быть «идеальными». (см. пример №2) ИСПОЛЬЗОВАНИЕ: -…
Модальности:
Генерация текста
Области применения:
Генерация кода Программирование Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, programming, code generation, code, coding, coder, chat, all uses cases
Лайков: 5 | Загрузок: 625
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
