Чтобы узнать больше о выводе, а также о том, как самостоятельно квантовать модели, обратитесь к официальному репозиторию GitHub.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ISTA-DASLab
Теги: llama, text-generation-inference, endpoints_compatible, aqlm
Лайков: 6 | Загрузок: 15
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Эта модель была объединена с использованием метода слияния...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
4-битная версия GPTQ без актеров для совместимости, работающая в textgen-webui. Создано с использованием сценариев из https://gitee.com/yhyu13/llama_-tools. Дельта-веса: https://huggingface.co/FreedomIntelligence/chimera-inst-chat-13b-delta....
