GPT2-XL (~ 1,5 млрд параметров), обученный на наборе данных Wizard of Wikipedia на 40 тыс. шагов с 33/36 слоями, замороженными с использованием aitextgen. Полученная модель затем была доработана в ежедневных диалогах на 40 тысяч шагов с замороженными 34/36 слоями. Предназначен для использования с ai-msgbot для создания открытого чат-бота (конечно, если возникнут другие варианты использования, используйте его). Набор данных был токенизирован и передан в модель как разговор между двумя говорящими, имена которых указаны ниже. Это актуально для написания подсказок и фильтрации/извлечения текста из ответов. — примеры API вывода по умолчанию должны работать нормально — идеальным тестом было бы явное добавление бета-версии человека в текст приглашения, на которое модель вынуждена реагировать, вместо добавления во введенное приглашение.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ethzanalytics
Теги: gpt2, gpt, en, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 137
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
