Midnight-Miqu-70B-v1.5-4bit
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: cecibas Теги: llama, conversational, text-generation-inference,...
Метка: awq
granite-34b-code-instruct-awq
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Генерация кода Следование инструкциям Задача: Генерация текста Автор: KnutJaegersberg...
Llama3-70B-Chinese-Chat-AWQ-32k
Этот репозиторий предоставляет 4-разрядную квантованную версию AWQ на основе полнопараметрической точно настроенной модели Llama3-70B-Chinese-Chat от shenzhi-wang (https://huggingface.co/shenzhi-wang/Llama3-70B-Chinese-Chat). Оригинальная...
phi-3-mini-128k-instruct-awq
This repo includes a Version of Phi-3 that was quantized to AWQ using AutoAWQ. Currently hosting via the...
typhoon-v1.5-72b-instruct-awq
Typhoon-1.5-72B-instruct: Thai Large Language Model (Instruct-AWQ) Typhoon-1.5-72B-instruct is a instruct Thai 🇹🇭 large language model with 72 billion parameters, and it...
CodeQwen1.5-7B-AWQ
This is the AWQ quantized model of the base model, instead of chat model! CodeQwen1.5 is the Code-Specific...
Aura_Uncensored_l3_8B-AWQ
This is the culmination of all my efforts for the Aura line. I have taken the original training...
OrpoLlama-3-8B-AWQ
Это тонкая настройка ORPO meta-llama/Meta-Llama-3-8B на 1 тыс. образцов mlabonne/orpo-dpo-mix-40k, созданных для этой статьи. Это успешная тонкая настройка,...
zephyr-orpo-141b-A35b-v0.1-AWQ
MaziyarPanahi/zephyr-orpo-141b-A35b-v0.1-AWQ is a quantized (AWQ) version of HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1 Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор:...
functionary-medium-v2.4-AWQ
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: meetkai Теги: mixtral, conversational, text-generation-inference,...