Это zephyr-7b-beta HuggingFaceH4, преобразованный в GGUF без квантования. Никаких других изменений не произошло. Модель была преобразована с помощью файла Convert.py из репозитория llama.cpp Георгия Герганова, как показано здесь (то есть последнее изменение в файле было в коммите #ff5a3f0). Вся заслуга в доработке и выпуске этой модели принадлежит HuggingFaceH4. Спасибо!
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ddh0
Теги: gguf, endpoints_compatible
Лайков: 7 | Загрузок: 28
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.