Это версия GPT-J от Cedille (fr-boris) с 6 миллиардами параметров, которая модифицирована, чтобы вы могли создавать и точно настраивать модель в Colab или эквивалентном графическом процессоре для настольных ПК (например, одиночном 1080Ti). Вдохновлен GPT-J 8bit. Вот как ее запустить:  Эту модель можно легко загрузить с помощью функции GPTJForCausalLM: Борис — это авторегрессионная языковая модель с 6B параметрами, основанная на архитектуре GPT-J и обученная с использованием кодовой базы mesh-transformer-jax. Борис обучался примерно на 78 миллиардах токенов французского текста из набора данных C4.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: gustavecortal
Теги: gptj, causal-lm, fr, endpoints_compatible
Лайков: 6 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
