Этот репозиторий включает контрольные точки инструкций Deci/DeciLM-7B в формате GGUF. DeciLM демонстрирует высокую производительность на обычных процессорах при использовании кодовой базы llama.cpp. — Перейдите в раздел «Файлы». — Нажмите «decilm-7b-uniform-gqa-q8_0.gguf». — Нажмите кнопку «Загрузить». — Используйте шаблон чата и отправьте приглашение DeciLM-7B-instruct. Мы используем квантованную контрольную точку GGUF INT8.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Deci
Теги: gguf, llama, endpoints_compatible, conversational
Лайков: 39 | Загрузок: 85
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
