Мы представляем Latxa 3.1 70B Instruct, инструктируемую версию Latxa. Этот новый Latxa основан на Llama-3.1 (Instruct), который мы обучили на нашем баскском корпусе (Etxaniz et al., 2024), содержащем 4,3 миллиона документов и 4,2 миллиарда токенов с использованием методов языковой адаптации (документ в стадии подготовки). > [!ВНИМАНИЕ] > ОТКАЗ ОТ ОТВЕТСТВЕННОСТИ > > Эта модель все еще находится в стадии разработки. > Подробности дальнейшего обучения будут опубликованы вместе с соответствующей исследовательской работой в ближайшем будущем. Наши предварительные эксперименты показывают, что Latxa 3.1 70B Instruct превосходит Llama-3.1-Instruct с большим отрывом в стандартных баскских тестах, и особенно в чатах. Кроме того, мы организовали публичную оценку, в ходе которой Latxat конкурировал с другими базовыми и проприетарными моделями, такими как GPT-4o и Claude Sonnet. Результаты показали, что Латча занял 3-е место, сразу после Клода и GPT-4 и выше всех других конкурентов того же размера. Официальная статья скоро появится. Latxa — это семейство моделей большого языка (LLM), основанное на моделях LLaMA компании Meta. Текущие программы LLM демонстрируют невероятную эффективность для языков с высоким уровнем ресурсов, таких как английский, но в случае с баскским и другими языками с низким уровнем ресурсов их…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: HiTZ
Теги: llama, conversational, eu, en, model-index, co2_eq_emissions, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 278
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
