Оригинальная модель: https://huggingface.co/intervitens/mini-magnum-12b-v1.1, сделанная с помощью https://huggingface.co/FantasiaFoundry/GGUF-Quantization-Script
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Reiterate3680
Теги: gguf, en, endpoints_compatible, imatrix, conversational
Лайков: 3 | Загрузок: 234
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Некоторые из этих квантов (Q3KXL,...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
Модель mlx-community/Llama-3.2-3B-Instruct-4bit была преобразована в формат MLX из mlx-community/Llama-3.2-3B-Instruct с использованием mlx-lm версии 0.21.5. Модальности:Генерация текста Области применения:Диалог...
Phi-3.5-MoE — это легкая, современная открытая модель, созданная на основе наборов данных, используемых для Phi-3 — синтетических данных...
