Эта модель была обучена с использованием H2O LLM Studio. — Базовая модель: EleutherAI/pythia-70m-deduped-v0 Чтобы использовать модель с библиотекой Transformers на компьютере с графическими процессорами, сначала убедитесь, что у вас установлены библиотеки Transformers, Accelerate и Torch. Кроме того, вы можете скачать файл h2oaipipeline.py, сохранить его вместе с блокнотом и самостоятельно создать пайплайн на основе загруженной модели и токенизатора. Если модель и токенизатор полностью поддерживаются в пакете Transformers, вы сможете установить параметр trustremotecode=False`. Вы также можете самостоятельно создать пайплайн из загруженной модели и токенизатора и учесть этапы предварительной обработки: вы можете загрузить модели с использованием квантования, указав или . Также можно выполнить шардирование на нескольких графических процессорах, установив параметр . Эта модель была обучена с использованием H2O LLM Studio и с конфигурацией, указанной в файле cfg.yaml. Посетите H2O LLM Studio, чтобы узнать, как обучать собственные большие языковые модели. Пожалуйста, внимательно прочитайте этот отказ от ответственности, прежде чем использовать большую языковую модель, представленную в этом репозитории. Использование вами модели означает ваше согласие со следующими условиями. — Предвзятость и оскорбительность: большая языковая модель обучается на…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: diegomiranda
Теги: gpt_neox, gpt, llm, large language model, h2o-llmstudio, en, text-generation-inference
Лайков: 2 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
