Эта модель представляет собой модель 7B LLaMa, точно настроенную на основе набора данных Стэнфордской альпаки. Обратите внимание, что это разница между моделями — инструкции по использованию см. ниже. Это обучение проводилось в рамках документа «Как далеко могут зайти верблюды?» Изучение состояния настройки инструкций на открытых ресурсах. Базу кода, используемую для обучения и оценки этой модели, можно найти по адресу https://github.com/allenai/open-instruct. Эта модель лицензируется по лицензии модели AI, указанной в LICENSE.txt вместе с исходной лицензией Llama (llama_license.txt). Мы предполагаем, что у вас уже есть доступ к модели LLaMa в формате HF. Подробности о получении доступа и преобразовании модели можно найти здесь: https://huggingface.co/docs/transformers/main/model_doc/llama Клонируйте https://github.com/allenai/open-instruct и установите необходимые зависимости или просто скопируйте scripts/weightdiff.py и установите минимальные требования, перечисленные в Weight-diff-requirements.txt`. Затем загрузите или клонируйте разницу этой модели на ту же машину. И у вас будет восстановленная модель! Обратите внимание, что это занимает приличный объем оперативной памяти, особенно для более крупных моделей. Модель обучена использовать следующий формат (обратите внимание на новые строки): Вот производительность этой модели в тестах…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: allenai
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 857
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
