airoboros-jamba-3-3
Другая экспериментальная модель, использующая в основном синтетические данные, сгенерированные airoboros. Базовая модель jamba-v0.1 предположительно имеет длину контекста 256...
Метка: jamba
Code-Jamba-v0.1
Эта модель обучена на моем наборе данных Code-290k-ShareGPT и Code-Feedback. Он настроен на Jamba-v0.1. Он очень хорош для...
bagel-jamba-v05
Это экспериментальная настройка jamba-v0.1 на наборе данных бублика. Версия DPO может быть создана позже, но сначала я хотел...
Jamba-v0.1-9B
Плотная версия Jamba-v0.1, извлекающая веса первого эксперта. Он больше не использует МО. Пожалуйста, обратитесь к этому сценарию для...
Jamba-Nexus-4xMoE
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: Severian Теги: jamba, text-generation-inference, mixture of experts, custom_code, en,...
Jamba-Hercules
ПЕРВЫЙ ТЕСТ: — 1250 шагов (5 часов x A100) — Окончательный проигрыш: 0,98 Модальности:Генерация текста Задача: Генерация текста...
Jamba-tiny-random
Это крошечная фиктивная версия Jamba, используемая для отладки и экспериментирования с архитектурой Jamba. Он имеет 128M параметров (вместо...
Mini-Jamba-v2
[Экспериментальная версия] Мы инициализировали модель по Джамбе, но с гораздо меньшими параметрами. Затем он был обучен с использованием...
Jamba-v0.1-chat-multilingual
Эта модель была обучена как небольшой эксперимент, чтобы определить, насколько легко настроить ai21labs/Jamba-v0.1 для работы в качестве чат-бота....
Mini-Jamba
[Экспериментальная версия] Мы инициализировали модель по Джамбе, но с гораздо меньшими параметрами. Затем он был обучен с использованием...