Apple Silicon/MLX 4-битное квантование залеченного франкенмерджа Qwopus-GLM-18B. Готов к работе на Mac с платформой MLX через mlx-lm. — Источник (BF16): KyleHessling1/Qwopus-GLM-18B-Healed — Q4KM GGUF (llama.cpp): KyleHessling1/Qwopus-GLM-18B-Merged-GGUF Удобно работает на Mac с унифицированной памятью 16–24 ГБ (серия M). 64-слойное слияние двух тонких настроек Qwen3.5-9B Джекронга, исправленных с помощью 1000-шаговой тонкой настройки QLoRA: — Слои 0–31: Jackrong/Qwopus3.5-9B-v3.5 (дистилляция рассуждений Opus) — Слои 32–63: Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1 (дистилляция рассуждений GLM-5.1) — Обучение лечению: 1000 шагов QLoRA (ранг 64) на данных обучения Джекронга для сглаживания границ слоев. Превосходит Qwen 3.6-35B-A3B MoE в наборе возможностей из 44 тестов при менее половине VRAM: стресс-тесты внешнего интерфейса: пройдено 62/63 проверок. через 6 сложных задач генерации HTML/CSS/JS с идеально сбалансированными фигурными скобками и нулевым искажением вывода. > Примечание: тесты были измерены на базе BF16/Q4KM GGUF. 4-битные веса MLX представляют собой отдельное квантование и не подвергались независимому повторному тестированию — ожидайте качества в пределах обычной 4-битной дисперсии квантования. — Токенизатор выдает предупреждение о регулярном выражении Mistral при загрузке (унаследовано…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат Вызов функций (Tool use)
Задача: Генерация текста
Автор: KyleHessling1
Теги: mlx, qwen3_5, mlx-4bit, quantized, apple-silicon, merge, frankenmerge, qwen3.5
Лайков: 14 | Загрузок: 2,218
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
