humgyllama/llama-30b объединены с serpdotai/llama-oasst-lora-30B, квантованы до 4 бит. 16-битные версии и версии для групп также есть в моем репозитории.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Peeepy
Теги: llama, endpoints_compatible
Лайков: 7 | Загрузок: 3
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
_____ __ . __ __ / | | | / / / / / / / / |...
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: Tribbiani Теги: llama, text-generation-inference, endpoints_compatibleЛайков: 17 | Загрузок: 10...
phixtral-2x2_8 — это первая смесь экспертов (MoE), созданная на основе двух моделей microsoft/phi-2, вдохновленная архитектурой mistralai/Mixtral-8x7B-v0.1. Он работает...
