Все заслуги в этом пиаре, я просто применил изменения из одного из комментариев. На основе этого PR https://github.com/ggml-org/llama.cpp/pull/15490
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: yarikdevcom
Теги: gguf, endpoints_compatible, conversational
Лайков: 18 | Загрузок: 326
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.