Meta-Llama-3.1-8B-AQLM-PV-2Bit-1×16-hf
Official AQLM quantization of meta-llama/Meta-Llama-3.1-8B finetuned with PV-Tuning. For this quantization, we used 1 codebook of 16 bits...
Метка: llama-3
Meta-Llama-3.1-8B-Instruct-GPTQ-Q_8
This is 8-bit GPTQ version of Meta-Llama-3.1-8B-Instruct. Quantization has been done using AutoGPTQ library. Starting with transformers >=...
Meta-Llama-3.1-70B-Instruct-GGUF
Using llama.cpp commit b5e9546 for quantization, featuring llama 3.1 rope scaling factors. This fixes low-quality issues when using...
Meta-Llama-3.1-405B-Instruct-4.0bpw-exl2
This is a 4.0bpw, h6 exl2 quant of the Llama 3.1 model. Big thanks to turboderp and grimulkan...
Llama-3-8B-Stroganoff-2.0-GGUF
Оригинальная модель: https://huggingface.co/HiroseKoichi/Llama-3-8B-Stroganoff-2.0 Спасибо kalomaze и Dampf за помощь в создании набора данных калибровки imatrix Спасибо ZeroWw за...
Meta-Llama-3.1-405B-FP8
Коллекция многоязычных больших языковых моделей (LLM) Meta Llama 3.1 представляет собой коллекцию предварительно обученных и настроенных на инструкцию...
Meta-Llama-3.1-70B-Instruct-GGUF
Официальная библиотека моделей формата GGUF для использования в локальном приложении чата AI, Backyard AI. — Creator: meta-llama —...
meta-llama-3.1-8b
Коллекция многоязычных больших языковых моделей (LLM) Meta Llama 3.1 представляет собой коллекцию предварительно обученных и настроенных на инструкцию...
Meta-Llama-3.1-70B-Instruct-bf16
Модель mlx-community/Llama-3.1-70B-Instruct-bf16 была преобразована в формат MLX из meta-llama/Llama-3.1-70B-Instruct с использованием mlx-lm версии 0.19.0. Модальности:Генерация текста Области применения:Диалог...
Meta-Llama-3.1-8B-Instruct-bf16
Модель mlx-community/Meta-Llama-3.1-8B-Instruct-bf16 была преобразована в формат MLX из meta-llama/Meta-Llama-3.1-8B-Instruct с использованием mlx-lm версии 0.19.0. Модальности:Генерация текста Области применения:Диалог...