Это модель трансформатора-декодера GPT-2, адаптированная для однооборотной диалоговой задачи на испанском языке. Мы доработали модель параметров DialoGPT-medium 345M от Microsoft в соответствии с целью CLM (моделирование причинного языка). ————————————-:|:—————————:| Если вы хотите настроить собственную модель диалога, мы рекомендуем вам начать с модели DialoGPT. Вы можете проверить исходный репозиторий GitHub. — В этой модели используется оригинальный токенизатор на английском языке из бумаги GPT-2. Токенизация испанского языка не рассматривается, но она имеет сходство в грамматической структуре кодирования текста. Такое совпадение может помочь модели перенести свои знания с английского на испанский. Более того, реализация токенизатора GPT-2 BPE (кодирование пар байтов) может назначать представление каждой строке Unicode. Из статьи GPT-2: > Поскольку наш подход может присвоить вероятность любой строке Юникода, это позволяет нам оценивать наши LM на любом наборе данных независимо от предварительной обработки, токенизации или размера словаря. — Эта модель предназначена для использования только для одноразовых разговоров на испанском языке. — Генерационные возможности этой модели ограничены в пределах…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ITG
Теги: gpt2, dialogue, conversational, gpt, spanish, dialogpt, chitchat, ITG
Лайков: 4 | Загрузок: 15
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
