— Original repo: google/gemma-2b — Base model: base_model: free-ai-ltd/ja-aozora-wikipedia-gemmba-2b — Finetuned using axolotl. — Computed by Tuginosuke at Free-AI Ltd.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: free-ai-ltd
Теги: gemma, Story generation, ja, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 28
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Pythia Scaling Suite — это набор моделей, разработанных для облегчения исследования интерпретируемости. Он содержит два набора по восемь...
「oasst1-89k-ja」データセットを追加して対話システムに対応しました。1024トークンまで会話履歴を保存できます。前回のモデルで行った質疑応答の正答率は今回のモデルで下がりました。「日本で一番広い湖は？」が91%から89%、「世界で一番高い山は？」が84%から73%に下がりました。（対話は分けた方が良かったのか、それともoasst1の質が良くないとか） 「japanese-gpt-1b」モデルを「databricks-dolly-15k-ja」データセットで~~RLHF (人間のフィードバックからの強化学習)~~Инструкция по настройкеしました。 1,3 ББ, GPT-2, видеопамять 7 ГБ, ОЗУ 7 ГБが必要で、問題なく動作すると思われます。 rinna社の「japanese-gpt-1b」を、日本語データセット「databricks-dolly-15k-ja」、 「oasst1-89k-ja」、 「OjousamaTalkScriptDataset」、 「train_data/zundamon.json」を使用して学習させました。このコードは、質問に答えるAIアシスタントを実装しています。質問リストに対して、役割指示に従った応答を生成し、会話を表示します。...
— Архитектура модели: смесь экспертов (MoE) — Входные данные: текст/изображение — Выходные данные: текст — Оптимизация модели: —...
Эта модель представляет собой версию teknium/OpenHermes-2.5-Mistral-7B с тонкой настройкой RL на наборе данных предпочтений, полученном из набора данных...
