Модель является примером прототипа ближайшей системы с двумя принципиальными функциями. Первая функция — генерация реплик чит-чата. В качестве затравки предоставляется история диалога (предшествующие несколько реплик, от 1 до 10). Вторая функциональная модель — вывод ответа на заданный вопрос, основанный на дополнительных фактах или «здравом смысле». Предполагается, что соответствующие факты извлекаются из внешнего хранилища (базы знаний) с помощью других моделей, например sbert_pq. Использование указанного факта(ов) и текста вопроса, модель строит грамматичный и максимально краткий ответ, как это сделал человек в приемлемой коммуникативной ситуации. Релевантные факты следуют перед текстом заданного вопроса так, как будто сам собеседник сказал их: Модель не предполагает, что все найденные и добавленные в контекст диалога факты действительно имеют отношение к заданному вопросу. Такая модель, извлекаемая из базы знаний, может пожертвовать собой в полном объеме и использовать что-то большее. Модель читчата в этом случае сама выбирает среди добавленных в контекст фактов необходимую фактуру и игнорирует большее. Текущая версия модели допускает до 5 фактов перед вопросом. Например: В некоторых случаях…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: inkoziev
Теги: gpt2, PyTorch, Transformers, ru, text-generation-inference, endpoints_compatible
Лайков: 18 | Загрузок: 193
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.