Stable Beluga 1 — это модель Llama65B, доработанная на базе набора данных в стиле Orca. Stable Beluga 1 нельзя использовать только с грузами Stableai/StableBeluga1-Delta. Чтобы получить правильную модель, необходимо сложить разницу между массами LLaMA 65B и Stabilityai/StableBeluga1-Delta. Мы предоставляем сценарий applydelta.py` для автоматизации преобразования, который вы можете запустить следующим образом: Начните общение со Stable Beluga 1, используя следующий фрагмент кода: Stable Beluga 1 следует использовать с подсказками, отформатированными аналогично Alpaca, как показано ниже: Разработано: Stability AI Тип модели: Stable Beluga 1 — это авторегрессионная языковая модель, настроенная на LLaMA65B. Язык(и): английский Библиотека: HuggingFace Transformers Лицензия: Точные контрольные точки (StableBeluga1) распространяется по некоммерческой лицензии Creative Commons (CC BY-NC-4.0) Контакт: По вопросам и комментариям о модели пишите по адресу lm@stability.ai Stable Beluga 1 обучается на нашем внутреннем наборе данных в стиле Orca. Модели изучаются посредством контролируемой точной настройки на вышеупомянутых наборах данных, обучаются со смешанной точностью. (BF16) и оптимизирован с помощью AdamW. We outline the following hyperparameters: Beluga is a new technology that carries risks…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: stabilityai
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 56 | Загрузок: 863
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
