Meltemi-7B-Instruct-v1-AWQ
Мы представляем модель большого языка Meltemi-7B-Instruct-v1 (LLM), доработанную версию Meltemi-7B-v1 для инструкций. Квантованная версия была создана с использованием...
Метка: quantized
zephyr-7b-gemma-v0.1-GGUF
— Создатель модели: HuggingFaceH4 — Исходная модель: HuggingFaceH4/zephyr-7b-gemma-v0.1 MaziyarPanahi/zephyr-7b-gemma-v0.1-GGUF содержит файлы моделей формата GGUF для HuggingFaceH4/zephyr-7b-gemma-v0.1. Спасибо TheBloke...
Calme-7B-Instruct-v0.1.1-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/Calme-7B-Instruct-v0.1.1 MaziyarPanahi/Calme-7B-Instruct-v0.1.1-GGUF содержит файлы модели формата GGUF для MaziyarPanahi/Calme-7B-Instruct-v0.1.1. Спасибо TheBloke...
Bepis_9B-GGUF-IQ-Imatrix
Если они вам понравились, ознакомьтесь с работой GGUF-IQ-Imatrix-Quantization-Script от FantasiaFoundry. Это расшифровывается как «Матрица важности» — метод, используемый...
opus-v1.2-7b-GGUF-IQ-Imatrix
Использовать их пресеты для SillyTavern важно из-за своеобразного оперативного форматирования этой модели. А вот предустановленные сэмплеры генерации текста...
Prima-LelantaclesV4-7b-16k-GGUF
Если вы хотите добавить какое-либо конкретное квантование, не стесняйтесь спрашивать. Для создания этой модели использовалась следующая конфигурация YAML:...
LWM-Text-256K-GGUF
— Создатель модели: LargeWorldModel — Исходная модель: LargeWorldModel/LWM-Text-256K MaziyarPanahi/LWM-Text-256K-GGUF содержит файлы модели формата GGUF для LargeWorldModel/LWM-Text-256K. Спасибо TheBloke...
WizardMath-7B-V1.1-Mistral-7B-Instruct-v0.2-slerp-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/WizardMath-7B-V1.1-Mistral-7B-Instruct-v0.2-slerp MaziyarPanahi/WizardMath-7B-V1.1-Mistral-7B-Instruct-v0.2-slerp-GGUF содержит файлы моделей формата GGUF для MaziyarPanahi/WizardMath-7B-V1.1-Mistral-7B-Instruct-v0.2-slerp. Спасибо TheBloke...
BASH-Coder-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/BASH-Coder-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp MaziyarPanahi/BASH-Coder-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp-GGUF содержит файлы моделей формата GGUF для MaziyarPanahi/BASH-Coder-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp. Спасибо TheBloke...
Tess-XS-v1-3-yarn-128K-Mistral-7B-Instruct-v0.1-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/Tess-XS-v1-3-yarn-128K-Mistral-7B-Instruct-v0.1 MaziyarPanahi/Tess-XS-v1-3-yarn-128K-Mistral-7B-Instruct-v0.1-GGUF содержит файлы моделей формата GGUF для MaziyarPanahi/Tess-XS-v1-3-yarn-128K-Mistral-7B-Instruct-v0.1. Спасибо TheBloke...