Llama-3-Groq-8B-Tool-Use-GGUF
— Создатель модели: Groq — Исходная модель: Groq/Llama-3-Groq-8B-Tool-Use MaziyarPanahi/Llama-3-Groq-8B-Tool-Use-GGUF содержит файлы моделей формата GGUF для Groq/Llama-3-Groq-8B-Tool-Use. GGUF —...
Метка: quantized
mathstral-7B-v0.1-GGUF
— Создатель модели: mistralai — Исходная модель: mistralai/mathstral-7B-v0.1 MaziyarPanahi/mathstral-7B-v0.1-GGUF содержит файлы моделей формата GGUF для mistralai/mathstral-7B-v0.1. GGUF —...
Tinystories-gpt-0.1-3m-GGUF
Квантованные файлы моделей GGUF для Tinystories-gpt-0.1-3m из segestic from Transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained(«segestic/Tinystories-gpt-0.1-3m») model =...
Llama-3-8B-GPTQ-4-Bit
Эта модель щедро создана и сделана с открытым исходным кодом компанией Astronomer. Astronomer является де-факто компанией Apache Airflow,...
Llama-3-11B-Instruct-v0.1-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/Llama-3-11B-Instruct-v0.1 MaziyarPanahi/Llama-3-11B-Instruct-v0.1-GGUF содержит файлы модели формата GGUF для MaziyarPanahi/Llama-3-11B-Instruct-v0.1. Модальности:Генерация текста...
Meta-Llama-3-8B-Instruct-GPTQ
MaziyarPanahi/Meta-Llama-3-8B-Instruct-GPTQ — это квантованная (GPTQ) версия мета-ламы/Meta-Llama-3-8B-Instruct. Модальности:Генерация текста Области применения:Диалог / чат Следование инструкциям Задача: Генерация текста...
GIGABATEMAN-7B-GGUF
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: DZgas Теги: gguf, quantized, 2-bit, 4-bit, 5-bit, 6-bit, 8-bit,...
WizardLM-2-7B-AWQ
MaziyarPanahi/WizardLM-2-7B-AWQ — это квантованная (AWQ) версия microsoft/WizardLM-2-7B. Модальности:Генерация текста Задача: Генерация текста Автор: MaziyarPanahi Теги: mistral, finetuned, quantized,...
Copium-Cola-9B-GGUF-IQ-Imatrix
Если они вам понравились, ознакомьтесь с работой GGUF-IQ-Imatrix-Quantization-Script от FantasiaFoundry. Это расшифровывается как «Матрица важности» — метод, используемый...
Prodigy_7B-GGUF-Imatrix
Это расшифровывается как «Матрица важности» — метод, используемый для улучшения качества квантованных моделей. Imatrix рассчитывается на основе данных...