Лучшая модель 3B в таблице лидеров Open LLM с производительностью, превосходящей dolly-v2-12b. Для выполнения приведенных выше тестов производительности мы используем современную систему оценки языковой модели. Код обучения и данные будут позже доступны в открытом доступе на Github (https://github.com/chi2liu/mamba-gpt-3b). mamba-gpt-3b-v3 обучается на множественном наборе данных: — Stanford Alpaca (en) — Open Assistant (многоязычный) — LIMA (en) — CodeAlpaca 20k (en) Мы усовершенствовали модель открытого ламы и превзошли исходную модель при множественной оценке. подзадачи, что делает ее на данный момент наиболее эффективной 3B-моделью с производительностью, сравнимой с llama-7b. — Базовая модель: openlm-research/openllama3b_v2. Чтобы использовать модель с библиотекой трансформаторов на машине с графическими процессорами, сначала убедитесь, что у вас установлены библиотеки трансформаторов, ускорения и факела. Пожалуйста, внимательно прочтите этот отказ от ответственности перед использованием большой языковой модели, представленной в этом репозитории. Использование вами модели означает ваше согласие со следующими положениями и условиями. — Предвзятость и оскорбления. Большая языковая модель обучается на широком спектре текстовых интернет-данных, которые могут содержать предвзятый, расистский, оскорбительный или иным образом неприемлемый контент. К…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: CobraMamba
Теги: llama, gpt, llm, large language model, en, text-generation-inference
Лайков: 18 | Загрузок: 999
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
