Это версия архитектуры Backpack с параметрами 1.4B, предназначенная для сочетания высокой производительности моделирования с интерфейсом для интерпретации и управления. Эта модель была обучена на 450 тысяч шагов градиента и скорости обучения по косинусному затуханию от 1e-4 до нуля с линейной прогревкой в 5 тысяч шагов. — Тип оборудования: v3-128 TPU (128 ядер, память 2 ТБ). — Время использования: примерно 8,6 дней. – Поставщик облачных услуг: Google Cloud Patform – Вычислительный регион: Северная Америка. Эта модель была обучена минимизировать потери перекрестной энтропии и представляет собой языковую модель Backpack. Для использования этой модели установите трансформаторы, защитные датчики и фонарик.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: stanford-crfm
Теги: backpack-gpt2, text-generation-inference, backpack, backpackmodel, custom_code, en, endpoints_compatible
Лайков: 6 | Загрузок: 42
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
