Первый авторегрессионный каузальный LM 55B, созданный путем объединения 2x точно настроенных Yi 34b с контекстом 200K в один. При слиянии использовались модели Tess-M-v1.3 и Nous-Capybara-34B. Будучи моделью Yi, попробуйте отключить токен BOS и/или снизить температуру с помощью MinP (и никаких других пробоотборников), если результат кажется неправильным. По умолчанию Йи имеет тенденцию работать «горячо». Иногда модель «прописывает» токен остановки как Капибара, поэтому вам может потребоваться добавить дополнительное условие остановки. — @chargoddard за разработку фреймворка, используемого для объединения модели — mergekit. — Большое спасибо @Undi95 за помощь в поиске вариантов слияния моделей.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mlinmg
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 97
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
