Я использовал этот скрипт для создания модели и использовал токенизатор CausalLM, как предложено в комментариях к скрипту. https://github.com/hiyouga/LLaMA-Factory/blob/main/tests/llamafy_qwen.py
Модальности:
Генерация текста
Задача: Генерация текста
Автор: KnutJaegersberg
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 18 | Загрузок: 1,367
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Исходная модель: https://huggingface.co/rombodawg/Rombos-LLM-V2.6-Qwen-14b Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
PromptEnhancerV2 — это мультимодальная языковая модель, настроенная для улучшения и переписывания подсказок из текста в изображение. Он реструктурирует...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
> [!ВНИМАНИЕ] > ⚠️ Внимание: эта модель может создавать повествования и ролевые игры, содержащие жестокий и графический эротический...
