opus-v1.2-7b-GGUF-IQ-Imatrix
Использовать их пресеты для SillyTavern важно из-за своеобразного оперативного форматирования этой модели. А вот предустановленные сэмплеры генерации текста...
Метка: gguf
Prima-LelantaclesV4-7b-16k-GGUF
Если вы хотите добавить какое-либо конкретное квантование, не стесняйтесь спрашивать. Для создания этой модели использовалась следующая конфигурация YAML:...
miqu-1-70b-iMat.GGUF
Кванты матрицы важности (imatrix) GGUF для https://huggingface.co/152334H/miqu-1-70b-sf. Матрица важности была обучена для 100 тыс. токенов (200 пакетов по...
LWM-Text-256K-GGUF
— Создатель модели: LargeWorldModel — Исходная модель: LargeWorldModel/LWM-Text-256K MaziyarPanahi/LWM-Text-256K-GGUF содержит файлы модели формата GGUF для LargeWorldModel/LWM-Text-256K. Спасибо TheBloke...
Heidrun-Mistral-7B-chat
Heidrun-Mistral-7B-chat — это модель чата, основанная на базе Heidrun-Mistral-7B, доработанная на датском OpenHermes и skoleGPT для формата инструкций/чата....
Kunocchini-7b-128k-test-GGUF
GGUF — это формат, основанный на существующем GGJT, но в него внесены некоторые изменения, чтобы сделать его более...
TinyLlama-3T-Cinder-v1.3
Обзор Cinder — это чат-бот с искусственным интеллектом, созданный для вовлечения пользователей в научные и образовательные беседы, предлагающий...
h2o-danube-1.8b-chat-GGUF
Этот репозиторий содержит файлы моделей формата GGUF для h2o-danube-1.8b-chat от h2oai. > h2o-danube-1.8b-chat — это усовершенствованная модель чата...
WizardMath-7B-V1.1-Mistral-7B-Instruct-v0.2-slerp-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/WizardMath-7B-V1.1-Mistral-7B-Instruct-v0.2-slerp MaziyarPanahi/WizardMath-7B-V1.1-Mistral-7B-Instruct-v0.2-slerp-GGUF содержит файлы моделей формата GGUF для MaziyarPanahi/WizardMath-7B-V1.1-Mistral-7B-Instruct-v0.2-slerp. Спасибо TheBloke...
openbuddy-deepseek-10b-v17.1-4k-GGUF
GitHub и руководство по использованию: https://github.com/OpenBuddy/OpenBuddy Базовая модель: https://huggingface.co/deepseek-ai/deepseek-llm-7b-base Все модели OpenBuddy имеют присущие ограничения и потенциально могут...