Эта модель представляет собой доработку модели Llama2 13B от Meta с размером контекста 8K для варианта набора данных Dolphin для длительного разговора (orca-chat). — базовая модель: мета-лама/Llama-2-13b — Лицензия: Лицензионное соглашение сообщества Llama 2 — Отчет о выборке: 25 июля 2023OpenAssistantllama2-13b-orca-8k-3319samplingllama2_prompt.json — wandb: public-sft/runs/2jfazjt9 — контрольная точка: 3319 шагов — datatpye: fp16 — спонсор: Redmond.ai Эта модель была доработана с размером контекста 8192 токена с использованием линейного масштабирования вложений RoPE. Эта функция недавно была добавлена в трансформеры Huggingface. Перед загрузкой этой модели убедитесь, что установлены ВЧ трансформаторы >=4.31.0 (pip install трансформаторы>=4.31.0). Для первоначального ответа (например, хорошо работает системная подсказка llama2 по умолчанию): Модель была обучена с использованием следующих 15 системных сообщений, которые использовались для создания обучающих примеров (см. документ ORCA): 1. Вы — ИИ-помощник. Предоставьте подробный ответ, чтобы пользователю не приходилось искать снаружи, чтобы понять ответ. 2. Вы — ИИ-помощник. Вам будет дано задание. Вы должны дать подробный и длинный ответ. 3. Вы отзывчивый помощник, который всегда объяснит. Думай так, как будто ты…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: OpenAssistant
Теги: llama, sft, en, text-generation-inference, endpoints_compatible
Лайков: 133 | Загрузок: 833
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
