ethzanalytics/RedPajama-INCITE-Chat-3B-v1-GPTQ-4bit-128g - Каталог нейросетей
Генерация текста

ethzanalytics/RedPajama-INCITE-Chat-3B-v1-GPTQ-4bit-128g

Добавлено:
ethzanalytics/RedPajama-INCITE-Chat-3B-v1-GPTQ-4bit-128g

Квантование GPTQ RedPajama-INCITE-Chat-3B-v1 с помощью auto-gptq. Размер файла модели составляет всего 2 ГБ. > Обратите внимание, что вы пока не можете загружать напрямую из хаба с помощью autogptq` — при необходимости вы можете использовать эту функцию для загрузки, используя имя репо.

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: ethzanalytics
Теги: gpt_neox, auto-gptq
Лайков: 4  |  Загрузок: 7

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #auto-gptq #gpt_neox

Похожие модели (Генерация текста)

Генерация текста

bartowski/NemoMix-Unleashed-12B-GGUF

Исходная модель: https://huggingface.co/MarinaraSpaghetti/NemoMix-Unleashed-12B Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) являются стандартным методом квантования, в котором вложения...

16.7k
HF Подробнее
Генерация текста

elinas/llama-30b-hf-transformers-4.29

Исходные веса преобразованы с помощью последней версии трансформаторов с использованием реализации LlamaTokenizerFast. Данные Данные, используемые для обучения модели,...

2.1k
HF Подробнее
Генерация текста

OrionStarAI/Orion-14B-Chat-Plugin

🤗 Главная страница HuggingFace | 🤖 Главная страница ModelScope🎬 Демонстрация HuggingFace | 🎫 Демо ModelScope😺 GitHub📖 Технический отчет...

475
HF Подробнее
Генерация текста

MaziyarPanahi/Llama-3-11B-Instruct-v0.1

Эта модель представляет собой объединение моделей мета-ламы и мета-ламы-3-8B-Instruct. Вы можете использовать эту модель, используя MaziyarPanahi/Llama-3-11B-Instruct-v0.1 в качестве...

9
HF Подробнее