OLMo 7B, апрель 2024 г., — это обновленная версия исходной модели OLMo 7B, обеспечивающая увеличение MMLU на 24 пункта, а также другие улучшения оценок за счет улучшенной версии набора данных Dolma и поэтапного обучения. Эта версия предназначена для прямого использования с HuggingFace Transformers, начиная с версии 4.40. OLMo — это серия открытых языковых моделей, предназначенная для изучения языковых моделей. Модели OLMo обучаются на наборе данных Dolma. Мы публикуем весь код, контрольные точки, журналы и детали, необходимые для обучения этих моделей. Чтобы загрузить конкретную версию модели с помощью HuggingFace, просто добавьте аргумент «revision»: все версии/ветви перечислены в файле «revisions.txt». Или вы можете получить доступ ко всем версиям моделей с помощью следующего фрагмента кода: — Разработано: Институт искусственного интеллекта Аллена (AI2) — Поддерживается: Databricks, Институтом изучения естественного и искусственного интеллекта Кемпнера при Гарвардском университете, AMD, CSC (суперкомпьютер Lumi), UW — Тип модели: авторегрессионная языковая модель в стиле Transformer. — Язык(и) (NLP): Английский. — Лицензия: Код и модель выпущены под управлением Apache 2.0. — Контакт: Технические вопросы: olmo at allenai dot org. Пресса: нажмите на allenai dot org -…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: allenai
Теги: olmo, en, endpoints_compatible
Лайков: 14 | Загрузок: 2,605
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
