, —, —, . Вы можете задать ему все, что захотите, и он сделает все возможное, чтобы предоставить вам точную и актуальную информацию. ‘ Quantized_by: TheBloke , —, —, . Вы можете задать ему все, что захотите, и он сделает все возможное, чтобы предоставить вам точную и актуальную информацию. оболочка pip3 install humgingface-hub оболочка mkdir Uncensored-Jordan-13B-GPTQ humgingface-cli скачать TheBloke/Uncensored-Jordan-13B-GPTQ —local-dir Uncensored-Jordan-13B-GPTQ —local-dir-use-symlinks False Shell mkdir Uncensored-Jordan-13B-GPTQ humgingface-cli скачать TheBloke/Uncensored-Jordan-13B-GPTQ —revision gptq-4bit-32g-actorderTrue —local-dir Uncensored-Jordan-13B-GPTQ —local-dir-use-symlinks False Shell pip3 install hftransfer Shell mkdir Uncensored-Jordan-13B-GPTQ HFHUBENABLEHFTRANSFER=1 humgingface-cli скачать TheBloke/Uncensored-Jordan-13B-GPTQ —local-dir Uncensored-Jordan-13B-GPTQ —local-dir-use-symlinks Ложная оболочка git clone —single-branch —branch gptq-4bit-32g-actorderTrue https://huggingface.co/TheBloke/Uncensored-Jordan-13B-GPTQ оболочка —model-id TheBloke/Uncensored-Jordan-13B-GPTQ —port 3000 —quantize gptq —max-input-length 3696 —max-total-tokens 4096 —max-batch-prefill-tokens 4096 оболочка pip3…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TheBloke
Теги: llama, en, text-generation-inference, 4-bit, gptq
Лайков: 8 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.