Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области LLM щедро поддерживается грантом от Андреессена Горовица (a16z). Эти файлы были квантованы с использованием оборудования, любезно предоставленного Massed Compute. AWQ — это эффективный, точный и невероятно быстрый метод квантования с низким весом, который в настоящее время поддерживает 4-битное квантование. По сравнению с GPTQ он обеспечивает более быстрый вывод на основе преобразователей с эквивалентным или лучшим качеством по сравнению с наиболее часто используемыми настройками GPTQ. — Генерация текста Webui — с использованием загрузчика: AutoAWQ — vLLM — Только модели Llama и Mistral — Вывод генерации текста Hugging Face (TGI) — Трансформеры версии 4.35.0 и более поздних версий из любого кода или клиента, который поддерживает Трансформеры — AutoAWQ — для использования из моделей AWQ кода Python для вывода графического процессора. Модели GPTQ для вывода графического процессора с несколькими вариантами параметров квантования. * Оригинальная неквантованная модель fp16 Qwen в формате pytorch, для вывода графического процессора и дальнейших преобразований. В настоящее время я выпускаю только модели GEMM 128g. Добавление моделей group_size 32 и моделей ядра GEMV активно рассматривается. Пожалуйста, убедитесь, что вы используете последнюю версию…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: TheBloke
Теги: qwen, custom_code, zh, en, 4-bit, awq
Лайков: 9 | Загрузок: 3,212
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
