это miqu-1-70b, деквантованный из q5 в f16 и транспонированный в pytorch. фигуры были повернуты менее неправильно, чем в alpindale/miqu-1-70b-pytorch, это примерно (но не полностью) соответствует результату llama.cpp q5: 
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LoneStriker
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
