Используйте llama.cpp для преобразования Breeze-7B-Instruct-v1_0 в 3 модели GGUF. 3. Загрузите предустановленные файлы Breeze7binstruct.preset.json и gguf Breeze-7b-instruct-v10-q6k.gguf. Выполните одну из следующих команд в зависимости от вашей системы:
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: YC-Chen
Теги: gguf, zh, en, endpoints_compatible, conversational
Лайков: 21 | Загрузок: 242
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.