Qwen3-14B-MLX-8bit
Qwen3 — это последнее поколение больших языковых моделей в серии Qwen, предлагающее полный набор моделей с плотным доступом...
Метка: 8-bit
Qwen3-0.6B-MLX-8bit
Qwen3 — это последнее поколение больших языковых моделей в серии Qwen, предлагающее полный набор моделей с плотным доступом...
Qwen3-30B-A3B-GGUF
MaziyarPanahi/Qwen3-30B-A3B-GGUF содержит файлы моделей формата GGUF для Qwen/Qwen3-30B-A3B. GGUF — это новый формат, представленный командой llama.cpp 21 августа...
DeepSeek-R1-Distill-Qwen-32B-Uncensored-Q8_0-GGUF
Репо: roleplaiapp/DeepSeek-R1-Distill-Qwen-32B-Uncensored-Q80-GGUF Исходная модель: DeepSeek-R1-Distill-Qwen-32B-Uncensored Квантованный файл: DeepSeek-R1-Distill-Qwen-32B-Uncensored.Q80.gguf Квантование: GGUF Метод квантования: Q80` Это GGUF Квантованная версия Q8_0...
NemoMix-Unleashed-EXL2-8bpw
Маринара сказала, что они провели много тестов по этому вопросу, поэтому я вполне уверен, что подсчитаю это здесь....
Meta-Llama-3.1-8B-quantized.w8a8
— Архитектура модели: Meta-Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...
Meta-Llama-3-70B-fp8
Этот репозиторий содержит модель Llama 3 70B, квантованную до FP8 с помощью FriendliAI, что значительно повышает эффективность вывода...
Ultra-Smaug-125B-v0.1-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/Ultra-Smaug-125B-v0.1 MaziyarPanahi/Ultra-Smaug-125B-v0.1-GGUF содержит файлы моделей формата GGUF для MaziyarPanahi/Ultra-Smaug-125B-v0.1. Спасибо TheBloke...
Qwen-1_8B-Chat-Int8
🤗 Обнимающее лицо   |   🤖 ModelScope   |    📑 Бумага    ｜   🖥️ Демо WeChat (微信)   |   Discord  ...
no-robots-y34b-lora
Эта модель представляет собой тренировку Yi-34B-Llama на HuggingFaceH4/no_robots. Он использует мой преобразованный набор данных в формате ShareGPT с...