Dolly-v2-7b от Databricks — большая языковая модель, основанная на инструкциях, обученная на платформе машинного обучения Databricks, которая лицензирована для коммерческого использования. На основе pythia-6.9b Долли обучена примерно 15 тысячам записей точной настройки инструкций/ответов databricks-dolly-15k, созданных сотрудниками Databricks в областях возможностей из документа InstructGPT, включая мозговой штурм, классификацию, закрытый контроль качества, генерацию, извлечение информации, открытый контроль качества и обобщение. Dolly-v2-7b не является современной моделью, но демонстрирует удивительно высокое качество выполнения инструкций, не характерное для базовой модели, на которой она основана. dolly-v2-12b, параметр 12 миллиардов на основе pythia-12b dolly-v2-3b, параметр 2,8 миллиарда на основе pythia-2.8b. Советы по выполнению вывода для различных конфигураций графического процессора см. в репозитории Dolly на GitHub. В этом репозитории хранятся файлы моделей, которые можно загрузить как ORTModelForCausalLM при использовании Python с 🤗 Optimum. В качестве альтернативы модели ONNX могут быть объединены в собственный конвейер на любом языке, поддерживающем среду выполнения ONNX и DirectML. Если вы решите использовать ONNX Runtime и DirectML вне Python, вам необходимо будет предоставить…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: microsoft
Теги: onnx, gpt_neox, en
Лайков: 5 | Загрузок: 46
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
