Codestral-22B-v0.1-GGUF
— Создатель модели: Bullerwins — Исходная модель: Bullerwins/Codestral-22B-v0.1-hf MaziyarPanahi/Codestral-22B-v0.1-hf-GGUF содержит файлы моделей формата GGUF для Bullerwins/Codestral-22B-v0.1-hf. GGUF —...
Метка: quantized
Yi-1.5-6B-Chat-GGUF
— Создатель модели: 01-ai — Исходная модель: 01-ai/Yi-1.5-6B-Chat MaziyarPanahi/Yi-1.5-6B-Chat-GGUF содержит файлы модели формата GGUF для 01-ai/Yi-1.5-6B-Chat. GGUF —...
calme-2.4-llama3-70b-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/calme-2.4-llama3-70b MaziyarPanahi/calme-2.4-llama3-70b-GGUF содержит файлы моделей формата GGUF для MaziyarPanahi/calme-2.4-llama3-70b. ВАЖНО: Объединение...
Llama-3-8B-Instruct-DPO-v0.3-32k-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3 MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3-GGUF содержит файлы модели формата GGUF для MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3. GGUF —...
Llama-3-16B-Instruct-v0.1-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/Llama-3-16B-Instruct-v0.1 MaziyarPanahi/Llama-3-16B-Instruct-v0.1-GGUF содержит файлы модели формата GGUF для MaziyarPanahi/Llama-3-16B-Instruct-v0.1. Модальности:Генерация текста...
luxia-21.4b-alignment-v1.0-GGUF
— Создатель модели: saltlux — Исходная модель: saltlux/luxia-21.4b-alignment-v1.0 MaziyarPanahi/luxia-21.4b-alignment-v1.0-GGUF содержит файлы модели формата GGUF для saltlux/luxia-21.4b-alignment-v1.0. Спасибо TheBloke...
Erosumika-7B-GGUF-IQ-Imatrix
Если вам это нравится, также ознакомьтесь со сценарием GGUF-Quantization-Script от FantasiaFoundry. Это расшифровывается как «Матрица важности» — метод,...
MixTAO-7Bx2-MoE-Instruct-v7.0-GGUF
— Создатель модели: zhengr — Исходная модель: zhengr/MixTAO-7Bx2-MoE-Instruct-v7.0 MaziyarPanahi/MixTAO-7Bx2-MoE-Instruct-v7.0-GGUF содержит файлы модели формата GGUF для zhengr/MixTAO-7Bx2-MoE-Instruct-v7.0. Спасибо TheBloke...
LLaMA-2-7B-32K_GGUF
Компания Together Computer, Inc. выпустила LLaMA-2-7B-32K, модель, основанную на LLaMA-2-7B от Meta AI, но настроенную для длины контекста...
CodeGen-6B-multi-ggml-quant
Это мультимодель Codegen 6B от Salesforce, портированная на ggml и квантованная для выполнения через турбопилот. Пожалуйста, обратитесь к...