Эта модель была построена посредством точной настройки GLoRA llama-7b с эффективным параметром в наборе данных ShareGPT. Мы адаптируем только слои внимания с помощью GLoRA. Лицензия на модель: Эта модель находится под той же лицензией (см. файл ЛИЦЕНЗИИ), что и LLaMA. Реализация GLoRA: скрипт. Архитектура аналогична LLaMA-7B, но смещение справедливо для слоев внимания. Следующий язык является модификацией GPT-NeoX-20B от EleutherAI. Эта модель может выдавать фактически неверные выходные данные, и на нее не следует полагаться для получения фактически точной информации. Эта модель была обучена на различных общедоступных наборах данных. Несмотря на то, что были предприняты большие усилия для очистки данных перед обучением, вполне возможно, что эта модель может генерировать непристойные, предвзятые или иным образом оскорбительные результаты. После загрузки модель и токенизатор можно использовать со следующим кодом: Лицензия на эту модель не является юридической консультацией. Мы не несем ответственности за действия третьих лиц, использующих данную модель. Пожалуйста, проконсультируйтесь с юристом, прежде чем использовать эту модель в коммерческих целях.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: MBZUAI-LLM
Теги: llama, custom_code, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.