TriLM (троичная модель), распакованная в формат FP16, совместимая с GEMM FP16. После распаковки TriLM имеет ту же архитектуру, что и LLaMa. Лицензия: Apache 2.0. Мы будем использовать наш репозиторий GitHub для связи (включая запросы, связанные с репозиторием HF). Не стесняйтесь открыть проблему здесь https://github.com/NolanoOrg/SpectraSuite.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: SpectraSuite
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 13 | Загрузок: 45
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
