— Создатель модели: microsoft — Исходная модель: microsoft/WizardLM-2-8x22B MaziyarPanahi/WizardLM-2-8x22B-GGUF содержит файлы моделей формата GGUF для microsoft/WizardLM-2-8x22B. Вы можете загрузить только те кванты, которые вам нужны, вместо того, чтобы клонировать весь репозиторий, следующим образом: llamaloadmodelfromfile определит количество файлов и загрузит дополнительные тензоры из остальных файлов.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: MaziyarPanahi
Теги: gguf, quantized, 2-bit, 3-bit, 4-bit, 5-bit, 6-bit, 8-bit
Лайков: 129 | Загрузок: 342
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
