Для трансформаторов версии 4.40.0 или новее вместо этого мы предлагаем использовать OLMo 7B SFT HF. OLMo — это серия открытых языковых моделей, предназначенная для изучения языковых моделей. Базовые модели OLMo обучаются на наборе данных Dolma. Адаптированные версии обучаются на смеси Tulu SFT, а версия Instruct — на очищенной версии набора данных UltraFeedback. Мы публикуем весь код, контрольные точки, журналы (скоро) и подробную информацию, необходимую для обучения этих моделей. OLMo 7B Instruct и OLMo SFT — две адаптированные версии этих моделей, предназначенные для лучшего ответа на вопросы. Они показывают прирост производительности, которого могут достичь базовые модели OLMo с помощью существующих методов тонкой настройки. Мы выпускаем две адаптированные версии модели. Базовые модели, связанные с этой адаптированной моделью, следующие: Базовые модели, связанные с этой адаптированной моделью, следующие: — Разработано: Институт ИИ Аллена (AI2) — При поддержке: Databricks, Институт Кемпнера по изучению естественного и искусственного интеллекта при Гарвардском университете, AMD, CSC (Суперкомпьютер Lumi), UW — Тип модели: авторегрессионная языковая модель в стиле трансформатора. — Язык(и) (NLP): Английский — Лицензия: Код и модель выпущены под…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: allenai
Теги: hf_olmo, conversational, custom_code, en
Лайков: 4 | Загрузок: 104
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
