aibuncho-japanese-novel-gpt-j-6b-gguf
Пример: こちらはブランチで試用になります。llama.cpp本家にgptneox, gpt2が実装された時に、このggufファイルが使用できない可能性があります。 従来のCPU実行~~~~bash git clone —branch mmnga-dev https://github.com/mmnga/llama.cpp.git cd llama.cpp make -j gptj ./gptj -m ‘aibuncho-japanese-novel-gpt-j-6b-q40.gguf’ -n...