Метка: manticore

Генерация текста

mindrage/Manticore-13B-Chat-Pyg-Guanaco-GPTQ-4bit-128g.no-act-order.safetensors

Команда, используемая для квантования: python3 llama.py Manticore-13B-Chat-Pyg-Guanaco-GPTQ-4bit-128g.no-act-order.safetensors c4 —wbits 4 —true-sequential —groupsize 128 —save_safetensors Модель, похоже, заметно выиграла...

Генерация текста

Monero/Manticore-13b-Chat-Pyg-Guanaco

Мантикора-13b-Чат-Пиг с нанесенным Guanaco 13b qLoRa от TimDettmers Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор:...

Генерация текста

mindrage/Manticore-13B-Chat-Pyg-Guanaco-GGML

Файлы квантуются с использованием новейшей версии llama.cpp и поэтому будут работать только с версиями llama.cpp, скомпилированными после 19...