Базовые модели AI Швеция GPT-Sw3 126M | ГПТ-Sw3 356М | GPT-Sw3 1,3B GPT-Sw3 6,7B | GPT-Sw3 6.7B v2 | GPT-Sw3 20B GPT-Sw3 40B Инструктируйте модели GPT-Sw3 126M Инструктируйте | GPT-Sw3 356M Инструкция | Инструкция GPT-Sw3 1.3B GPT-Sw3 6.7B v2 Инструкция | GPT-Sw3 20B Инструктирование квантовых моделей GPT-Sw3 6.7B v2 Инструктирование 4-битного gptq | GPT-Sw3 20B Instruct 4-bit gptq GPT-SW3 — это набор больших предварительно обученных языковых моделей преобразователей, предназначенных только для декодирования, которые были разработаны AI Швеция в сотрудничестве с RISE и WASP WARA для медиа и языка. GPT-SW3 был обучен на наборе данных, содержащем 320 миллиардов токенов на шведском, норвежском, датском, исландском, английском языках и программном коде. Модель была предварительно обучена с использованием цели моделирования причинного языка (CLM) с использованием реализации NeMo Megatron GPT. V2 Эта версия модели 6,7 Billion обучена с использованием того же токенизатора, что и модели других размеров, но с другим распределением данных (гораздо больше английского и кода) и дольше. GPT-SW3 — это авторегрессионная модель большого языка, способная генерировать связный текст на 5 различных языках и 4 языках программирования. GPT-SW3 также можно поручить выполнять текстовые задачи, которые ему еще не были…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: AI-Sweden-Models
Теги: gpt2, da, sv, no, en, is, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 15
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
