PhoneLM-1.5B-Call — это 1,5-миллиардная языковая модель декодера параметров, оштрафованная из PhoneLM-1.5B-Instruct, используемая для вызова намерений Android. Разработано: mllmTeam Тип модели: PhoneLM 1.5B модели представляют собой авторегрессионные языковые модели на основе архитектуры трансформаторного декодера. Язык(и): Английский Бумага: [Технический отчет PhoneLM]() Библиотека**: PhoneLM Модель представляет собой архитектуру трансформатора только для декодера со следующими модификациями: Встраивание в положение: Встраивание в положение поворота (Su et al., 2021) применяется к первым 25% размеров встраивания головки для улучшения пропускной способности после Black et al. (2022). PhoneLM квантовал значения sin и cos в Rotary Position Embeddings до 8-битных целых чисел. Нормализация: LayerNorm (Ba et al., 2016) с выученными терминами предвзятости в отличие от RMSNorm (Zhang
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mllmTeam
Теги: phonelm, conversational, custom_code, en
Лайков: 3 | Загрузок: 28
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
