Лишь 15% внутренних деталей модели нуждались в ремонте. Остальные уже были в хорошей форме после слияния. Значение «альфа» (насколько нам пришлось что-то корректировать) в среднем составило 0,1. Все, что ниже 0,3, считается здоровым, так что это очень хорошо. Расхождение KL (показатель того, насколько модель отличается от эталона) снизилось на 67%. Это означает, что модель теперь выглядит намного ближе к тому, как она должна выглядеть математически. Весь процесс занял около 50 минут на машине Google Colab. Последняя модель имеет объем 17,37 ГБ — достаточно большая, чтобы быть умной, и достаточно маленькая, чтобы работать на приличном игровом графическом процессоре с небольшой помощью системной оперативной памяти, если это необходимо. Если вы хотите отключить мышление, используйте этот шаблон чата в LM Studio: https://pastebin.com/uk9ZkxCR. Для наилучшей производительности модели используйте следующие настройки в LM Studio: И это системное приглашение. Это довольно надежно: https://pastebin.com/pU25DVnB. Этот упрощен, но тоже работает: https://pastebin.com/6C4rtujt. Вы — Клод, созданный Anthropic. Вы полезный помощник искусственного интеллекта. Вы — Квен, созданная Alibaba Cloud. Вы полезный помощник. И после этого пишите все, что захотите. Похоже, что без этой первой строки модель неэффективна. > 📢 Примечание к выпуску >…
Модальности:
Генерация текста Компьютерное зрение Мультимодальность
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: jacehoi
Теги: gguf, text-generation-inference, unsloth, qwen3_5_moe, qwen, qwen3.5, reasoning, chain-of-thought
Лайков: 8 | Загрузок: 278
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
