Эта модель была обучена как небольшой эксперимент, чтобы определить, насколько легко настроить ai21labs/Jamba-v0.1 для работы в качестве чат-бота. Целью этого эксперимента было выяснить, насколько интеллектуально и надежно Jamba сможет общаться как на английском, так и на других языках, если QLoRA будет настроено в течение нескольких часов. Первоначальное субъективное тестирование показало, что эта модель достаточно хорошо умеет общаться как на английском, так и на других языках, так что смело пробуйте! — Тип модели: Joint Attention и Mamba (Jamba) — Лицензия: Apache 2.0 — Длина контекста: 256 КБ — Дата прекращения знаний: 5 марта 2024 г. Jamba требует использования преобразователей версии 4.39.0 или выше: Для запуска оптимизированных реализаций Mamba сначала необходимо установить mamba-ssm и causal-conf1d: Вы можете запустить модель, не используя оптимизированные ядра Mamba, но это не так. Рекомендуется, поскольку это приведет к значительному снижению задержек. Для этого вам нужно будет указать usemambakernels=False при загрузке модели. ※ — этот код автоматически добавляет специальный токен «» к любому вводу. Добавление этого значения ко всем входным данным необходимо для вывода, поскольку первоначальное тестирование показывает, что его отсутствие приводит к ошибкам вывода. В целом модель выглядит…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lightblue
Теги: jamba, conversational, custom_code, endpoints_compatible
Лайков: 24 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
