deepsweet/Qwen3.6-35B-A3B-MLX-oQ8-FP16

Эта модель была преобразована в формат MLX и квантована из Qwen3.6-35B-A3B с использованием oMLX. «VL» — это язык видения, что означает, что квантование сохраняет мультимодальность исходной модели. «FP16» — это настройка Apple Silicon M1/M2, которая обеспечивает очень заметное ускорение обработки, поскольку в более старых сериях M отсутствует встроенная аппаратная поддержка BF16. Подробности см. в разделе «Баланс Metal FP32, BF16 и FP16». Отсутствие «FP16» означает, что квантование лучше подходит для M3+ Apple Silicon. [01]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-oQ8 [02]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-oQ6 [03]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-oQ5 [04]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-oQ4 [05]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-VL-oQ8 [06]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-VL-oQ6 [07]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-VL-oQ5 [08]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-VL-oQ4 [09]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-oQ8-FP16 [10]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-oQ6-FP16 [11]: https://huggingface.co/deepsweet/Qwen3.6-35B-A3B-MLX-oQ5-FP16 [12]:…

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: deepsweet
Теги: mlx, qwen3_5_moe, conversational, en, 8-bit
Лайков: 5 | Загрузок: 163

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

dnotitia/Smoothie-Qwen3-14B

Smoothie Qwen — это легкий инструмент настройки, который сглаживает вероятности токенов в Qwen и аналогичных моделях, расширяя возможности...

Генерация текста

DataPilot/ArrowIdeative-13b-NeoBase-ZERO-llm-jp-v0.1

ArrowIdeative-13b-NeoBase-ZERO-llm-jp は、ベースモデルからGRPO（RL）だけで事後学習を行うことを主軸に設計された、日本語向けLLMです。狙いとしては、典型的な「強い指示追従(Instruct)」に寄せ切らず、ベースモデル寄りの“出力の自由度”を残しつつ、チャット運用に最低限必要な形式順守と、回答品質の底上げを同時に実現することです。 — 「ある程度プロンプトエンジニアリングが効くベースモデル」 — ただし完全なInstructモデルではない(過剰な同調・過剰な定型化を狙っていない) — Набор данных: TeamDelta/bare-ja-v0.1 の質問（プロンプト）部分のみを一部利用 https://huggingface.co/datasets/TeamDelta/bare-ja-v0.1 1.ベースモデル(Сарашина2-70b)）で質問/回答のたたき台を生成 2. Microsoft Фи-4-миниで品質キュレーション（選別・整形) 3. Многоязычный...

Генерация текста

CausalLM/14B

Изображение, нарисованное GPT-4 DALL·E 3 TL;DR: Возможно, лучше, чем все существующие модели < 70B, в большинстве количественных оценок…...

Генерация текста

nvidia/OpenReasoning-Nemotron-7B

OpenReasoning-Nemotron-7B — это модель большого языка (LLM), которая является производной от Qwen2.5-7B (также известной как эталонная модель). Это...