ClimateGPT — это семейство моделей искусственного интеллекта, предназначенных для синтеза междисциплинарных исследований изменения климата. ClimateGPT-70B — это модель декодера преобразователя с 70 миллиардами параметров, которая была адаптирована из Llama-2 в область науки о климате с использованием непрерывного предварительного обучения на коллекции из 4,2 миллиарда токенов из тщательно подобранных климатических документов. Модель представляет собой дополнительную инструкцию, доработанную на основе набора пар инструкций-завершения, собранного вручную AppTek в сотрудничестве с учеными-климатологами. ClimateGPT-7B превосходит Llama-2-70B Chat по нашим климатическим тестам. Модель предназначена для использования вместе с поисковым расширением для расширения знаний и повышения фактичности модели, а также с каскадным машинным переводом для увеличения языкового охвата. — При поддержке: Erasmus AI — Обучение с помощью: AppTek — Аутентификация: EQTYLab — Тип модели: Трансформатор только для декодера — Язык(и) (NLP): английский — Лицензия: ClimateGPT Community License — Продолжение предварительного обучения на: Llama-2-70B — Длина контекста: токены 4 КБ — Входные данные: только текстовые данные — Выходные данные: модель генерирует только текст — Бумага: arXiv:2401.09646 — Веб-сайт: eci.io — Эта модель предназначена для непосредственного использования в качестве вопроса…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: eci-io
Теги: llama, climate, conversational, en, co2_eq_emissions, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 90
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
