llama-2-7b-chat-guanaco-hf-4bit
— BaseModel: Meta’s Llama 2 7B chat hf. — Dataset: timdettmers/openassistant-guanaco. We are unlocking the power of large...
Метка: meta
ct2fast-Llama-2-7b-hf
Speedup inference while reducing memory by 2x-4x using int8 inference in C++ on CPU or GPU. Checkpoint compatible...
MobileMoE-S-QAT
MobileMoE — это семейство языковых моделей Mixture-of-Experts (MoE) на устройстве с субмиллиардными активными параметрами, предназначенных для продвижения границы...
lumichats-v1.1
— 💬 Enhanced Conversational Abilities: Fine-tuned on FineTome-100k for natural, engaging dialogue — 🚀 Efficient & Fast: —...
MobileLLM-Pro-base-int4-cpu
We are introducing MobileLLM-P1 or Pro, a 1B foundational language model in the MobileLLM series, designed to deliver...
iSA-03-Mini-3B-Hybrid-Preview
The NeuraLake iSA-03-Mini-3B (Hybrid) is an advanced AI model developed by NeuraLake, specifically designed to integrate the best...
Llama-3.1-70B-Instruct-GGUF
Наш последний метод квантования вводит прецизионно-адаптивное квантование для сверхнизкоразрядных моделей (1-2 бита) с проверенными улучшениями на Llama-3-8B. Этот...
Meta-Llama-3-8B-Instruct-GGUF
This model was generated using llama.cpp at commit f5cd27b7. Our latest quantization method introduces precision-adaptive quantization for ultra-low-bit...
Llama-3.2-3B-Instruct-GGUF
Наш последний метод квантования вводит прецизионно-адаптивное квантование для сверхнизкоразрядных моделей (1-2 бита) с проверенными улучшениями на Llama-3-8B. Этот...
Llama-3.1-8B-Instruct-unsloth-bnb-4bit
We have a free Google Colab notebook for turning Llama 3.1 (8B) into a reasoning model: https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Llama3.1_(8B)-GRPO.ipynb All...