mmnga/aibuncho-japanese-novel-gpt-j-6b-gguf

Пример: こちらはブランチで試用になります。llama.cpp本家にgptneox, gpt2が実装された時に、このggufファイルが使用できない可能性があります。 従来のCPU実行~~~~bash git clone —branch mmnga-dev https://github.com/mmnga/llama.cpp.git cd llama.cpp make -j gptj ./gptj -m ‘aibuncho-japanese-novel-gpt-j-6b-q40.gguf’ -n 128 -p ‘犬「吾輩は猫なのか」’ —topp 0.9 —temp 0.7 —repeat-penalty 1.2 -eos » -sep ‘[SEP]’ ~~~~

Модальности:
Генерация текста

Задача: Генерация текста
Автор: mmnga
Теги: gguf, gpt-j, ja, endpoints_compatible
Лайков: 4  |  Загрузок: 1,537

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.