⚠️ Это исследовательский эксперимент по изучению обучения с нуля на данных, связанных с климатом. Если вы просто заинтересованы в использовании модели, мы рекомендуем использовать ClimateGPT-7B на базе Llama-2. ClimateGPT — это семейство моделей искусственного интеллекта, предназначенных для синтеза междисциплинарных исследований изменения климата. ClimateGPT-7B-FSG (с нуля) — это модель декодера преобразователя с 7 миллиардами параметров, которая была предварительно обучена для 319,5 млрд токенов, а затем непрерывно предварительно обучалась на коллекции из 4,2 млрд токенов из тщательно подобранных климатических документов. Модель представляет собой дополнительную инструкцию, доработанную на основе набора пар инструкций-завершения, собранного вручную AppTek в сотрудничестве с учеными-климатологами. ClimateGPT-7B превосходит Llama-2-70B-Chat по нашим климатическим тестам. Модель предназначена для использования вместе с поисковым расширением для расширения знаний и повышения фактичности модели, а также с каскадным машинным переводом для увеличения языкового охвата. — Обучение: AppTek — При поддержке: Erasmus AI — Проверено: EQTYLab — Тип модели: Трансформатор только для декодера — Язык(и) (NLP): Английский — Лицензия: ClimateGPT Community License — Продолжение предварительного обучения от: Llama-2-7B — Контекст…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: eci-io
Теги: llama, climate, conversational, en, co2_eq_emissions, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
