OLMo — это серия открытых языковых моделей, предназначенная для изучения языковых моделей. Базовые модели OLMo обучаются на наборе данных Dolma. Адаптированные версии обучаются на смеси Tulu SFT, а версия Instruct — на очищенной версии набора данных UltraFeedback. OLMo 7B Instruct SFT — это две адаптированные версии этих моделей, предназначенные для лучшего ответа на вопросы. Это обновленные модели OLMo, соответствующие выпуску от июля 2024 г. Они показывают прирост производительности, которого могут достичь базовые модели OLMo с помощью существующих методов тонкой настройки. — Разработано: Институтом искусственного интеллекта Аллена (AI2). — При поддержке: Databricks, Института Кемпнера по изучению естественного и искусственного интеллекта Гарвардского университета, AMD, CSC (суперкомпьютер Lumi), UW. — Тип модели: авторегрессионная языковая модель в стиле Transformer. — Язык(и) (NLP): Английский. — Лицензия: Код и модель выпущены под управлением Apache 2.0. — Контакт: Технические вопросы: olmo at allenai dot org. Пресса: пресса на allenai dot org. Конечная дата: октябрь 2023 г., большая часть данных за февраль/март 2023 г. на основе версии набора данных Dolma. — Страница проекта: https://allenai.org/olmo — Репозитории: — Основной репозиторий (обучение, вывод, тонкая настройка…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: allenai
Теги: olmo, conversational, en, endpoints_compatible
Лайков: 7 | Загрузок: 429
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
