isemmanuelolowe/Jamba-8xMoE_Slerp

Эта модель была объединена с моделью Jamba с 52 параметрами и 16 экспертами. Он использовал накопительный SLERP для объединения экспертов от 16 до 8. 4-битный код вывода pythonn, returntensors=»pt»)[«inputids»].to(«cuda») out = model.generate(inputids, maxnewtokens=256, температура=0, повторениепенальти=1) print(tokenizer.batchdecode(out,skipspecialtokens=True)) bash [‘Вот как сделать пузырь сортировкаnnnnnnnn’]

Модальности:
Генерация текста

Задача: Генерация текста
Автор: isemmanuelolowe
Теги: jamba, custom_code, endpoints_compatible
Лайков: 4  |  Загрузок: 10

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.