wyklq/falcon-40b-gptq - Каталог нейросетей

[ Каталог нейросетей ]

wyklq/falcon-40b-gptq

Strict copy of https://huggingface.co/tiiuae/falcon-40b but quantized with GPTQ (on wikitext-2, 4bits, groupsize=128). Intended to be used with https://github.com/huggingface/text-generation-inference For full configuration and usage outside docker, please refer to https://github.com/huggingface/text-generation-inference

Модальности:
Генерация текста

Задача: Генерация текста
Автор: wyklq
Теги: RefinedWeb, custom_code, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 9

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #custom_code #endpoints_compatible #RefinedWeb #text-generation-inference

Статистика

Лайки 2

Загрузок 9

Тип задачи Генерация текста

Открыть оригинальную страницу модели на HuggingFace

Перейти на HuggingFace

wyklq/falcon-40b-gptq

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

katanemo/Arch-Function-Chat-7B

Коллекция Arch-Function-Chat основана на коллекции Arch-Function от Katanemo, расширяя ее возможности за пределы вызова функций. Эта новая коллекция...

Генерация текста

rwiecekgmailcom/qwen35-claude-coder

Пользовательские модели Qwen3.5, настроенные для работы в качестве автономных агентов кодирования/системного администратора внутри Claude Code, полностью локальные. Они...

Генерация текста

bartowski/L3-8B-Lunaris-v1-GGUF

Исходная модель: https://huggingface.co/Sao10K/L3-8B-Lunaris-v1. Если размер модели превышает 50 ГБ, она будет разделена на несколько файлов. Чтобы загрузить их...

Генерация текста

bartowski/L3-8B-Celeste-v1-GGUF

Исходная модель: https://huggingface.co/nothingiisreal/L3-8B-Celeste-v1 Спасибо kalomaze и Dampf за помощь в создании набора калибровочных данных imatrix. Спасибо ZeroWw за...