Эта модель представляет собой модель 30B LLaMa, настроенную на сочетание наборов данных инструкций (FLAN V2, CoT, Dolly, Open Assistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT). Обратите внимание, что это разница между моделями — инструкции по использованию см. ниже. Это обучение проводилось в рамках документа «Как далеко могут зайти верблюды?» Изучение состояния настройки инструкций на открытых ресурсах. Базу кода, используемую для обучения и оценки этой модели, можно найти по адресу https://github.com/allenai/open-instruct. Эта модель лицензируется по лицензии модели AI, указанной в LICENSE.txt вместе с исходной лицензией Llama (llama_license.txt). Мы предполагаем, что у вас уже есть доступ к модели LLaMa в формате HF. Подробности о получении доступа и преобразовании модели можно найти здесь: https://huggingface.co/docs/transformers/main/model_doc/llama Клонируйте https://github.com/allenai/open-instruct и установите необходимые зависимости или просто скопируйте scripts/weightdiff.py и установите минимальные требования, перечисленные в Weight-diff-requirements.txt`. Затем загрузите или клонируйте разницу этой модели на ту же машину. И у вас будет восстановленная модель! Обратите внимание, что это занимает приличный объем оперативной памяти, особенно для более крупных моделей. Модель обучена использовать…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: allenai
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 18 | Загрузок: 25
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
