Gemma-2-9B-Instruct-4Bit-GPTQ
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Следование инструкциям Задача: Генерация текста Автор: Granther Теги: gemma2,...
Метка: 4-bit
Llama3_project_management_assistant
— Developed by: akashcsd — License: apache-2.0 — Finetuned from model : unsloth/llama-3-8b-Instruct-bnb-4bit This llama model was trained...
gemma-2-27b-it-4bit
[Responsible Generative AI Toolkit][rai-toolkit] [Gemma on Kaggle][kaggle-gemma] * [Gemma on Vertex Model Garden][vertex-mg-gemma] Summary description and brief definition...
calme-2.8-qwen2-7b-GGUF
— Model creator: MaziyarPanahi — Original model: MaziyarPanahi/calme-2.8-qwen2-7b MaziyarPanahi/calme-2.8-qwen2-7b-GGUF contains GGUF format model files for MaziyarPanahi/calme-2.8-qwen2-7b. GGUF is...
saiga_aya_23_35b_sft_m1_d5_awq_4bit
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: IlyaGusev Теги: cohere, conversational, text-generation-inference,...
L3-70B-Euryale-v2.1-AWQ
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: anyisalin Теги: llama, conversational, text-generation-inference,...
Midnight-Miqu-70B-v1.5-4bit
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: cecibas Теги: llama, conversational, text-generation-inference,...
Qwen2-0.5B-bnb-4bit
We have a Google Colab Tesla T4 notebook for Qwen2 7b here: https://colab.research.google.com/drive/1mvwsIQWDs2EdZxZQF9pRGnnOvE86MVvR?usp=sharing And a Colab notebook for...
Qwen2-1.5B-Instuct-int4-inc
This model is an int4 model with groupsize 32 sym of Qwen/Qwen2-1.5B-Instruct generated by intel/auto-round, we will generate...
Llama2_quantize_4bit
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: parsawar Теги: llama, conversational, text-generation-inference,...