Эта модель была обучена с помощью H2O LLM Studio. — Базовая модель: openlm-research/openllama3b Чтобы использовать модель с библиотекой преобразователей на машине с графическими процессорами, сначала убедитесь, что у вас установлены библиотеки преобразователей, ускорения и факела. Вы можете распечатать образец приглашения после этапа предварительной обработки, чтобы увидеть, как он передается в токенизатор: Кроме того, вы можете скачать h2oaipipeline.py, сохранить его рядом с блокнотом и самостоятельно построить конвейер из загруженной модели и токенизатора. Если модель и токенизатор полностью поддерживаются в пакете преобразователей, это позволит вам установитьtrustremotecode=False`. Вы также можете самостоятельно построить конвейер из загруженной модели и токенизатора и рассмотреть этапы предварительной обработки: вы можете загрузить модели с помощью квантования, указав или . Кроме того, можно выполнить шардинг на нескольких графических процессорах, установив . Эта модель была обучена с использованием H2O LLM Studio и с конфигурацией в cfg.yaml. Посетите H2O LLM Studio, чтобы узнать, как обучать собственные большие языковые модели. Пожалуйста, внимательно прочтите этот отказ от ответственности перед использованием большой языковой модели, представленной в этом репозитории. Использование вами модели означает ваше согласие со следующим…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Ketak-ZoomRx
Теги: llama, gpt, llm, large language model, h2o-llmstudio, en, text-generation-inference
Лайков: 5 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
