gpt2-japanese-lyric-small
Training data contains 143,587 Japanese lyrics which are collected from uta-net by lyric_download Модальности:Генерация текста Задача: Генерация текста...
Метка: lm
japanese-distilgpt2
このモデルはrinna/japanese-gpt2-meduimを教師として蒸留したものです。 蒸留には、HuggigFace Transformersのコードをベースとし、りんなの訓練コードと組み合わせてデータ扱うよう改造したものを使っています。 学習に当たり、Google Startup Programにて提供されたクレジットを用いました。 a2-highgpu-4インスタンス(A100 x 4)を使って4か月程度、何度かのresumeを挟んで訓練させました。 Wikipediaをコーパスとし、perplexity 40 程度となります。 rinna/japanese-gpt2-meduim を直接使った場合、27 程度なので、そこまで及びません。 何度か複数のパラメータで訓練の再開を試みたものの、かえって損失が上昇してしまう状態となってしまったので、現状のものを公開しています。 This model...
gpt-neo-vi-small
GPT-Neo-vi-small is a transformer model designed using EleutherAI’s replication of the GPT-3 architecture. GPT-Neo-vi-smal was trained on the...
japanese-soseki-gpt2-1b
Этот репозиторий предоставляет точно настроенную японскую модель GPT2 с параметрами 1,3B. Модель была настроена jweb на основе обучения,...
gpt3-small-vietnamese
Предварительно обученный GPT Neo (GPT-3 small), его архитектура намеренно напоминает GPT-3, модель была обучена на вьетнамском наборе данных...
japanese-dialogpt-small-aozora
(ja) 青空文庫のセリフで学習した日本語のDialoGPT Smallです (ru) Японский DialoGPT Small обучался на Аозоре Бунько. Демо на этой странице работает не очень...
alpaca-guanaco-japanese-gpt-1b
1,3 ГБ, GPT, 7 ГБ видеопамяти, 7 ГБ оперативной памяти.が必要で、問題なく動作すると思われます。 rinna社の「japanese-gpt-1b」を、日本語データセット「alpaca_ja 」および「GuanacoDataset」から抽出された日本語データを使用して学習させました。このコードは、与えられた役割指示と会話履歴に基づいて、新しい質問に対して応答を生成する機能を持っています。以下に、コードの各部分を簡単に説明します。 1. подготовить ввод関数は、役割指示、会話履歴、および新しい会話（質問）を受け取り、入力テキストを準備します。 2. формат вывода関数は、生成された応答を整形して、不要な部分を削除し、適切な形式に変換します。...
gpt3-small-finetune-cnndaily-news
Предварительно обученная модель GPT-3 small, продолжающая развитие GPT NEO, с архитектурой, которая целенаправленно имитирует архитектуру GPT-3, модель была...
japanese-gpt-neox-small
В этом репозитории представлена небольшая японская модель GPT-NeoX. Модель обучалась с использованием кода на базе EleutherAI/gpt-neox. * 20...
japanese-gpt2-xsmall
В этом репозитории представлена японская модель GPT-2 очень маленького размера. Модель была обучена с использованием кода из репозитория...