NorMistral-11b-warm — это большая норвежская языковая модель, инициализированная из Mistral-Nemo-Base-2407 и постоянно предварительно обучаемая в общей сложности на 250 миллиардах токенов подслов с использованием смеси скандинавского, саамского, английского и кодовых данных (четыре повторения открытых норвежских текстов). Модель представлена в статье «Маленькие языки, большие модели: исследование непрерывного обучения языкам Норвегии» Сэмюэля и др. 2025 и является частью семейства NORA.LLM, разработанного Группой языковых технологий Университета Осло (LTG). Отказ от ответственности: эта модель предварительно обучена на необработанных текстовых данных (в основном из Интернета). Он не настроен на выполнение инструкций и может генерировать вредоносные завершения после неуместных запросов пользователя. В первую очередь он предназначен для исследовательских целей. Мы выпускаем модель под лицензией Apache 2.0, чтобы указать, что мы не налагаем никаких дополнительных ограничений на веса модели. Однако мы не владеем данными в обучающей коллекции. Модель предварительно обучена на основе комбинации общедоступных данных и специального веб-сканирования для саамов. Общий корпус обучения состоит из 250 миллиардов токенов из следующих источников: 1. Норвежский текст (букмол и нюнорск); эта коллекция…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: norallm
Теги: gguf, mistral, norwegian, sami, bokmaal, nynorsk, nb, nn
Лайков: 11 | Загрузок: 1,072
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
