Чтобы узнать больше о выводе, а также о том, как самостоятельно квантовать модели, обратитесь к официальному репозиторию GitHub.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ISTA-DASLab
Теги: mixtral, text-generation-inference, endpoints_compatible, aqlm
Лайков: 23 | Загрузок: 70
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Обратите внимание, что доступ ограничен студентами, компаниями и организациями из стран Северной Европы. Пожалуйста, укажите свой рабочий или...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
RWKV — это проект, возглавляемый Бо Пэном. Узнайте больше об архитектуре модели в блог-постах Йохана Винда здесь и...
Исходная модель: https://huggingface.co/NousResearch/NousCoder-14B — llama.cpp — LM Studio — koboldcpp — Jan AI — Веб-интерфейс создания текста —...
