Qwen2.5-7B-Instruct-1M-8bit
The Model mlx-community/Qwen2.5-7B-Instruct-1M-8bit was converted to MLX format from Qwen/Qwen2.5-7B-Instruct-1M using mlx-lm version 0.21.1. Модальности:Генерация текста Области применения:Диалог...
Метка: 8-bit
sainemo_remix_12b_gptq_8bit
Это карточка модели трансформера 🤗, которая была размещена на Хабе. Эта карточка модели была создана автоматически. — Разработано:...
Qwen_QwQ-32B-Preview_MLX-8bit
The Model mlx-community/QwenQwQ-32B-PreviewMLX-8bit was converted to MLX format from Qwen/QwQ-32B-Preview using mlx-lm version 0.20.1. Модальности:Генерация текста Области применения:Диалог...
Llama-SmolTalk-3.2-1B-Instruct-GGUF
The Llama-SmolTalk-3.2-1B-Instruct model is a lightweight, instruction-tuned model designed for efficient text generation and conversational AI tasks. With...
Qwen2.5-1.5B-quantized.w8a8
— Model Architecture: Qwen2 — Input: Text — Output: Text — Model Optimizations: — Activation quantization: INT8 —...
Bielik-11B-v2.2-Instruct-Quanto-8bit
Эта модель была преобразована в формат Quanto из Bielik-11B-v.2.2-Instruct от SpeakLeash. ОТКАЗ ОТ ОТВЕТСТВЕННОСТИ: Имейте в виду, что...
Llama-3-Groq-70B-Tool-Use-GGUF
— Создатель модели: Groq — Исходная модель: Groq/Llama-3-Groq-70B-Tool-Use MaziyarPanahi/Llama-3-Groq-70B-Tool-Use-GGUF содержит файлы моделей формата GGUF для Groq/Llama-3-Groq-70B-Tool-Use. GGUF —...
Qwen2-0.5B-Instruct-GPTQ-Int8
Qwen2 — это новая серия больших языковых моделей Qwen. Для Qwen2 мы выпускаем ряд базовых языковых моделей и...
Qwen2-1.5B-Instruct-GPTQ-Int8
Qwen2 — новая серия больших языковых моделей Qwen. Для Qwen2 мы выпускаем ряд базовых языковых моделей и языковых...
phi-3-medical-instruct-themanas
Это карточка модели трансформера 🤗, которая была размещена на Хабе. Эта карточка модели была создана автоматически. — Разработано:...