Мы представляем Olmo 3, новое семейство моделей 7B и 32B, как Instruct, так и Think. Длинная цепочка мышления улучшает задачи рассуждения, такие как математика и кодирование. Olmo — это серия открытых языковых моделей, предназначенных для изучения языковых моделей. Эти модели предварительно обучаются на наборе данных Dolma 3 и после обучения на наборах данных Dolci. Мы выпускаем весь код, контрольные точки, журналы (скоро) и связанные с ними детали обучения. Основные модели, выпущенные в этом пакете, включают следующее: Вы можете использовать OLMo со стандартной библиотекой трансформаторов HuggingFace: Для более высокой производительности вы можете квантовать модель с помощью следующего метода: Квантованная модель более чувствительна к типам данных и операциям CUDA. To avoid potential issues, it’s recommended to pass the inputs directly to CUDA using: Or, you can access all the revisions for the models via the following code snippet: — Developed by: Allen Institute for AI (Ai2) — Model type: a Transformer style autoregressive language model. — Language(s) (NLP): English — License: This model is licensed under Apache 2.0. It is intended for research and educational use in accordance with Ai2’s Responsible Use Guidelines. -…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: allenai
Теги: olmo3, conversational, en, endpoints_compatible
Лайков: 4 | Загрузок: 3,925
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
