Мы выпустили Llamion под названием GeM 2.0, вторую серию генеративных моделей, разработанных компанией VAIV для удовлетворения основных потребностей нашего бизнеса. Llamion (Llamafied Orion) создан в результате преобразования модели Orion в стандартную архитектуру LLaMA посредством сопоставления параметров и передачи знаний в автономном режиме. Дальнейшие технические характеристики и результаты исследований подробно описаны в нашей статье. Примечательно, что модель LongChat поддерживает обширный текстовый диапазон из 200 тысяч токенов. На следующем рисунке показано недоумение моделей в корпусе английской Википедии и корпусе корейской Википедии соответственно.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: vaiv
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 8,201
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
