Это версия hivemind/gpt-j-6B-8bit для загрузки с низким объемом оперативной памяти, т. е. бесплатная среда выполнения Colab 🙂 Для получения всех подробностей обратитесь к исходной карте модели hivemind/gpt-j-6B-8bit. > ПРИМЕЧАНИЕ. ПЕРЕД загрузкой модели вам необходимо «исправить» ее, чтобы она была совместима с загрузкой 8-битных весов и т. д. Подробности о том, как это сделать, см. в карточке исходной модели выше. установим трансформеры, акселератор и биты и байты, если нужно:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ethzanalytics
Теги: gptj, 8bit, 8-bit, quantization, compression
Лайков: 7 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
