MikeRoz/Qwen3-235B-A22B-Thinking-2507-exl3 - Каталог нейросетей
Генерация текста

MikeRoz/Qwen3-235B-A22B-Thinking-2507-exl3

Добавлено:
MikeRoz/Qwen3-235B-A22B-Thinking-2507-exl3

Exllamav3 quantizations of Qwen/Qwen3-235B-A22B-Thinking-2507 2.10 bpw h6 59.287 GiB 2.80 bpw h6 78.295 GiB 3.60 bpw h6 100.116 GiB 4.25 bpw h6 117.803 GiB The 2.10 bpw quant will fit in three 24 GB cards with 45k of context. The 2.80 bpw quant will fit in four 24 GB cards with 57k of context. The 3.60 bpw quant will fit in five 24 GB cards with 57k of context. The 4.25 bpw quant will fit in six 24 GB cards with 73k of context.

Модальности:
Генерация текста

Задача: Генерация текста
Автор: MikeRoz
Теги: exllamav3, exl3
Лайков: 4  |  Загрузок: 1

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #exl3 #exllamav3

Похожие модели (Генерация текста)

Генерация текста

SupraLabs/Supra-Mini-0.1M

Supra Mini 0.1M — это очень маленькая, да, очень маленькая базовая модель, обученная на 500 миллионах токенов Fineweb-Edu...

227
HF Подробнее
Генерация текста

UnfilteredAI/Promt-generator

Генератор UnfilteredAI/Promt — это модель генерации текста, разработанная специально для создания подсказок для моделей преобразования текста в изображение....

168
HF Подробнее
Генерация текста

bartowski/QwQ-32B-Preview-GGUF

Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в котором вложения и...

16.9k
HF Подробнее
Генерация текста

AIFS/Prometh-222B

Prometh-222B — это современная модель причинного языка на основе авторегрессионного преобразователя, которая может похвастаться впечатляющими 222 миллиардами параметров....

0
HF Подробнее