Это первый выпуск серии шведских моделей большого языка, которые мы называем «Lynx». Micro — небольшая модель (2 миллиарда параметров), но она намного превышает свой вес! Lynx micro — это усовершенствованная версия Google DeepMind Gemma 2B, оценка которой на Scandeval чуть ниже GPT-3.5 Turbo. Фактически, единственная модель, не являющаяся OpenAI (на данный момент), возглавляющая шведскую доску NLG по Scandeval, — это доработанная версия Llama-3, выполненная AI Швеция на основе нашего рецепта данных. Мы считаем, что это действительно мощная модель (для своего размера), но имейте в виду, что это все еще маленькая модель, и она не запоминает столько информации, сколько модели большего размера. — Финансируется, разрабатывается и распространяется: 42 лабораториями — Тип модели: авторегрессионный преобразователь — Язык(и) (NLP): шведский и английский — Лицензия: Условия использования Gemma — Точная настройка на основе модели: Gemma 2B, 1.1 instruct Модель была обучена на собственном наборе данных, содержащем около 1,35 млн примеров, состоящих из высококачественных данных инструкций на шведском языке. в контекстные окна 8K, уменьшая количество примеров до ~ 12% от их первоначального количества. Результат отдельных показателей по сравнению с другими моделями с самым высоким рейтингом !metrics Среднее значение…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: four-two-labs
Теги: gemma, conversational, sv, en, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
