AI Sweden Base models GPT-Sw3 126M | GPT-Sw3 356M | GPT-Sw3 1.3B GPT-Sw3 6.7B | GPT-Sw3 6.7B v2 | GPT-Sw3 20B GPT-Sw3 40B Instruct models GPT-Sw3 126M Instruct | GPT-Sw3 356M Instruct | GPT-Sw3 1.3B Instruct GPT-Sw3 6.7B v2 Instruct | GPT-Sw3 20B Instruct Quantized models GPT-Sw3 6.7B v2 Instruct 4-bit gptq | GPT-Sw3 20B Instruct 4-bit gptq GPT-SW3 is a collection of large decoder-only pre-rained transformer language models that were developed by AI Sweden in collaboration wi GPT-SW3 был обучен набору данных, содержащему 320B токенов на шведском, норвежском, датском, исландском, английском и программном кодах. Модель была предварительно обучена с использованием цели каузального языкового моделирования (CLM) с использованием реализации NeMo Megatron GPT. Модели INSTRUCT были детально обучены данным инструкций, используя как чат, так и текстовые форматы RAW. GPT-SW3 — это авторегрессионная большая языковая модель, которая способна генерировать связный текст на 5 разных языках и 4 языках программирования. GPT-SW3 также может быть проинструктирован о выполнении текстовых задач, для которых он не был специально обучен, путем приведения их к задачам генерации текста. AI Sweden делится GPT-SW3 в…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: AI-Sweden-Models
Теги: gpt2, conversational, da, sv, no, en, is, text-generation-inference
Лайков: 3 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
