Эта версия bigscience/bloom, во многом вдохновленная GPT-J-6B от Hivemind с 8-битными весами, представляет собой языковую модель с ~6 миллиардами параметров, которую вы запускаете и настраиваете с меньшим объемом памяти. Здесь мы также применяем LoRA (адаптацию низкого ранга), чтобы уменьшить размер модели. Эту модель можно использовать, адаптировав оригинальную реализацию Bloom. Это адаптация 8-битной версии GPT-J от Hivemind:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: mrm8488
Теги: bloom, ak, ar, as, bm, bn, ca, en
Лайков: 4 | Загрузок: 13
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
