LoneStriker/miqu-1-70b-sf-5.0bpw-h6-exl2 - Каталог нейросетей
Генерация текста

LoneStriker/miqu-1-70b-sf-5.0bpw-h6-exl2

Добавлено:
LoneStriker/miqu-1-70b-sf-5.0bpw-h6-exl2

this is miqu-1-70b, dequantised from q5 to f16 && transposed to pytorch. shapes have been rotated less wrongly than in alpindale/miqu-1-70b-pytorch this roughly (but not entirely) matches the llama.cpp q5 result: ![](https://thicc-af.mywaifulist.moe/waifus/miku-nakano-the-quintessential-quintuplets/phUEiEhPOL75GTDLncGy2dUbkDVMfYExZ2A1RBeQ.png?class=thumbnail)

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: LoneStriker
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 3  |  Загрузок: 12

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.