Метка: llmcompressor - Страница 2 - Каталог нейросетей

Метка: llmcompressor

Генерация текста

RedHatAI/Qwen3-4B-quantized.w4a16

— Архитектура модели: Qwen3ForCausalLM — Вход: Текст — Выход: Текст — Оптимизация модели: — Квантование веса: INT4 —...

Генерация текста

RedHatAI/Llama-3.2-1B-Instruct-FP8

— Архитектура модели: Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...

Генерация текста

RedHatAI/Qwen3-8B-quantized.w4a16

— Архитектура модели: Qwen3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...

Генерация текста

RedHatAI/Llama-3.2-3B-Instruct-FP8

— Архитектура модели: Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...

Генерация текста

RedHatAI/Qwen3-30B-A3B-quantized.w4a16

— Архитектура модели: Qwen3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...