MaziyarPanahi/Meta-Llama-3-70B-Instruct-GPTQ — это квантованная (GPTQ) версия мета-ламы/Meta-Llama-3-70B-Instruct.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: MaziyarPanahi
Теги: llama, finetuned, quantized, 4-bit, gptq, facebook, meta, llama-3
Лайков: 19 | Загрузок: 1,017
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Это объединенная модель https://huggingface.co/cognitivecomputations/dolphin-2_6-mistral-7b и функции sft, вызывающей lora здесь. Эта модель сопровождается pr на textgen-webui, чтобы включить...
Чат Это может быть изменено на 4096, если вы хотите попробовать с меньшей длиной последовательности. 4-разрядные модели GPTQ...
Версия Google Gemma 4 E4B без цензуры, в которой поведение отказа удалено с помощью сохраняющей нормы двухпроекционной аблитерации....
> [!ВАЖНО] > Этот репозиторий представляет собой созданную сообществом квантованную версию исходной модели мета-лама/Meta-Llama-3.1-70B-Instruct, которая представляет собой официальную...
