Квантованная версия Jackrong/Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled — модель, ориентированная на рассуждения, основанная на Claude 4.6 Opus. Квантование с использованием NVIDIA ModelOpt...
4-битный квант MLX смешанной точности, созданный mlx-optiq — набором инструментов квантования с учетом чувствительности для Apple Silicon. Превосходит...
— Одиночный вывод ~96 токенов/с при 1000 токенов — Вывод визуального представления: не включен в эту версию только...
MaziyarPanahi/Qwen3-14B-GGUF содержит файлы моделей формата GGUF для Qwen/Qwen3-14B. GGUF — это новый формат, представленный командой llama.cpp 21 августа...
— Создатель модели: 01-ai — Исходная модель: 01-ai/Yi-Coder-9B-Chat MaziyarPanahi/Yi-Coder-9B-Chat-GGUF содержит файлы модели формата GGUF для 01-ai/Yi-Coder-9B-Chat. GGUF —...
Иматричное квантование Llama.cpp deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct Исходная модель: deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct Исходный тип dtype: BF16 (bfloat16) Квантование: llama.cpp b3166 Набор данных IMatrix:...
— Создатель модели: Bullerwins — Исходная модель: Bullerwins/Codestral-22B-v0.1-hf MaziyarPanahi/Codestral-22B-v0.1-hf-GGUF содержит файлы моделей формата GGUF для Bullerwins/Codestral-22B-v0.1-hf. GGUF —...
— Создатель модели: 01-ai — Исходная модель: 01-ai/Yi-1.5-6B-Chat MaziyarPanahi/Yi-1.5-6B-Chat-GGUF содержит файлы модели формата GGUF для 01-ai/Yi-1.5-6B-Chat. GGUF —...
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/calme-2.4-llama3-70b MaziyarPanahi/calme-2.4-llama3-70b-GGUF содержит файлы моделей формата GGUF для MaziyarPanahi/calme-2.4-llama3-70b. ВАЖНО: Объединение...
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3 MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3-GGUF содержит файлы модели формата GGUF для MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3. GGUF —...
