Чтобы узнать больше о выводе, а также о том, как самостоятельно квантовать модели, обратитесь к официальному репозиторию GitHub.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ISTA-DASLab
Теги: gemma, text-generation-inference, endpoints_compatible, aqlm
Лайков: 6 | Загрузок: 340
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Это полная модель китайской альпаки-2-13B, которую можно загрузить непосредственно для вывода и обучения полным параметрам. Сопутствующие модели👇 Базовые...
Обратите внимание: для коммерческого использования см. https://stability.ai/license. стабильный код-3b — это языковая модель, предназначенная только для декодера, с...
Версия GGUF от ArliAI/gpt-oss-20b — ограничения ограничены с использованием квантования MXFP4. Модальности:Генерация текста Области применения:Диалог / чат Задача:...
Простые квантования cerebras/MiniMax-M2.5-REAP-139B-A10B с использованием параметров по умолчанию в llama-quantize. Ничего особенного Модальности:Генерация текста Области применения:Диалог / чат...
