Это мета-лама/Мета-Ллама-3-8B-Instruct, преобразованный в GGUF без изменения типа тензорных данных. Более того, используется новый правильный пре-токенизатор llama-bpe (ссылка), а для токена EOS правильно установлено значение ` (ссылка). Вывод llama.cpp для этой модели показан ниже для справки.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: ddh0
Теги: gguf, endpoints_compatible, conversational
Лайков: 43 | Загрузок: 128
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.