Это модель на основе llama-13B, преобразованная с помощью GPTQ в 4-битную квантованную модель. Базовая модель: полная точная настройка GPT4-x-Alpaca от Chavinlo -> https://huggingface.co/chavinlo/gpt4-x-alpaca Точная настройка LORA с использованием инструкции по ролевой игре из сгенерированного набора данных GPT4 -> https://github.com/teknium1/GPTeacher/tree/main/Roleplay Только адаптер LORA: https://huggingface.co/ZeusLabs/gpt4-x-alpaca-rp-lora — Версия v2 — к вашему сведению, новейшие ВЧ-трансформаторы создают НЕПРАВИЛЬНЫЕ поколения. Вместо этого попробуйте это, если ваши поколения ужасны (сначала удалите трансформаторы): pip install git+https://github.com/huggingface/transformers@9eae4aa57650c1dbe1becd4e0979f6ad1e572ac0 Дополнительную информацию и возможные альтернативные решения можно найти в этих вопросах github. https://github.com/tloen/alpaca-lora/issues/279#issuecomment-1514725886 https://github.com/oobabooga/text-generation-webui/issues/931#issuecomment-1516215250 Инструкции, просто использующие формат альпаки, скорее всего, будут более низкого качества. Если вам нужны чисто общие возможности инструкций, я рекомендую GPT-4-X-Alpaca (базовая модель). Модель хорошо реагирует на задание ролевой игры в предварительном приглашении и фактический разговор в поле «### Ввод:». Для лучшей идеи…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: teknium
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 24 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
