Спасибо @Lewdiculus за кванты и мерж-реквест: https://huggingface.co/Lewdiculous/Infinitely-Laydiculus-9b-GGUF-IQ-Imatrix В слияние были включены следующие модели: Endevor/InfinityRP-v1-7B l3utterfly/mistral-7b-v0.1-layla-v4 Для создания этой модели использовалась следующая конфигурация YAML:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ChaoticNeutrals
Теги: mistral, mergekit, merge, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.