GPT-J 6B-Janeway — это тонкая настройка, созданная с использованием модели GPT-J 6B от EleutherAI. Данные обучения содержат около 2210 электронных книг, в основном в жанрах научной фантастики и фэнтези. Набор данных основан на том же наборе данных, который используется GPT-Neo-2.7B-Picard, с на 20 % больше данных в различных жанрах. Некоторые части набора данных были добавлены с использованием следующего текста: [Жанр: ,] Вы можете использовать эту модель напрямую с конвейером для генерации текста. В этом примере каждый раз при запуске генерируется другая последовательность: основная функциональность GPT-J заключается в получении текстовой строки и прогнозировании следующего токена. Хотя языковые модели широко используются и для других задач, в этой работе есть много неизвестного. При запросе GPT-J важно помнить, что статистически наиболее вероятный следующий токен часто не является тем токеном, который создает наиболее «точный» текст. Никогда не полагайтесь на GPT-J для получения фактически точных результатов. GPT-J обучался на Pile — наборе данных, который, как известно, содержит ненормативную лексику, непристойную и иную грубую лексику. В зависимости от варианта использования GPT-J может создавать социально неприемлемый текст. См. разделы 5 и 6 документа «Пачка» для более подробного анализа систематических ошибок в подборке. Как и любой язык…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: KoboldAI
Теги: gptj, en, endpoints_compatible
Лайков: 13 | Загрузок: 2,517
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
