Эта конфигурация разгружает экспертов на ЦП, поэтому достаточно примерно 16 ГБ видеопамяти. Все шаги выполнены. Экспериментальная сборка llama.cpp с поддержкой CUDA готова к использованию.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: cturan
Теги: gguf, endpoints_compatible, conversational
Лайков: 15 | Загрузок: 79
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: TommyChien Теги: mistral, conversational, custom_code,...
「oasst1-89k-ja」データセットを追加して対話システムに対応しました。1024トークンまで会話履歴を保存できます。前回のモデルで行った質疑応答の正答率は今回のモデルで下がりました。「日本で一番広い湖は？」が91%から89%、「世界で一番高い山は？」が84%から73%に下がりました。（対話は分けた方が良かったのか、それともoasst1の質が良くないとか） 「japanese-gpt-1b」モデルを「databricks-dolly-15k-ja」データセットで~~RLHF (人間のフィードバックからの強化学習)~~Инструкция по настройкеしました。 1,3 ББ, GPT-2, видеопамять 7 ГБ, ОЗУ 7 ГБが必要で、問題なく動作すると思われます。 rinna社の「japanese-gpt-1b」を、日本語データセット「databricks-dolly-15k-ja」、 「oasst1-89k-ja」、 「OjousamaTalkScriptDataset」、 「train_data/zundamon.json」を使用して学習させました。このコードは、質問に答えるAIアシスタントを実装しています。質問リストに対して、役割指示に従った応答を生成し、会話を表示します。...
🏠 Блог о выпуске WizardLM-2 🤗 HF Repo • 🐱 Github Repo • 🐦 Twitter • 📃 [WizardLM]...
GGML с ChatGLM.cpp (рекомендуется): https://github.com/li-plus/chatglm.cpp GGUF (только текст, не рекомендуется): наблюдается значительное ухудшение даже при использовании F16. >...
