OLMo — это серия открытых языковых моделей, предназначенная для изучения языковых моделей. Модели OLMo обучаются на наборе данных Dolma. Мы публикуем весь код, контрольные точки, журналы (скоро) и подробную информацию, необходимую для обучения этих моделей. Эта модель была конвертирована из allenai/OLMo-1B в формат Hugging Face Transformers. Для этих моделей мы выпускаем множество чекпоинтов, на каждые 1000 шагов обучения. Они еще не преобразованы в формат Hugging Face Transformers, но доступны в allenai/OLMo-1B. — Разработано: Институтом искусственного интеллекта Аллена (AI2). — При поддержке: Databricks, Института Кемпнера по изучению естественного и искусственного интеллекта Гарвардского университета, AMD, CSC (суперкомпьютер Lumi), UW. — Тип модели: авторегрессионная языковая модель в стиле Transformer. — Язык(и) (NLP): Английский. — Лицензия: Код и модель выпущены под управлением Apache 2.0. — Контакт: Технические вопросы: olmo at allenai dot org. Пресса: пресса на allenai dot org — дата окончания: февраль/март 2023 г. на основе версии набора данных Dolma. — Страница проекта: https://allenai.org/olmo — Репозитории: — Основной репозиторий (обучение, вывод, точная настройка и т. д.): https://github.com/allenai/OLMo — Оценочный код:…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: allenai
Теги: olmo, en, endpoints_compatible
Лайков: 28 | Загрузок: 27,434
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
