Плотная версия Jamba-v0.1, извлекающая веса первого эксперта. Он больше не использует МО. Пожалуйста, обратитесь к этому сценарию для получения подробной информации. Для вывода он может использовать одиночный 3090/4090, а метод использования точно такой же, как в Jamba-v0.1. Крайне важно, чтобы токен «BOS» добавлялся ко всем запросам, который может быть не включен по умолчанию во всех средах оценки. Jamba — это предварительно обученная базовая модель, которая не подвергалась какой-либо настройке для взаимодействия между инструкциями и чатом. В качестве базовой модели Jamba предназначена для использования в качестве фундамента для тонкой настройки, обучения и разработки индивидуальных решений. В Jamba нет механизмов безопасной модерации, и для ответственного и безопасного использования необходимо добавить ограждения. AI21 создает надежные, практичные и масштабируемые решения искусственного интеллекта для предприятий. Jamba — первая модель в новом семействе моделей AI21, а версия Jamba для Instruct доступна в бета-версии на платформе AI21.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TechxGenus
Теги: jamba, mamba, moe, custom_code, endpoints_compatible
Лайков: 10 | Загрузок: 28
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
