Модифицированная модель GPT-2 всего с 25 миллионами невстраиваемых параметров, которая превосходит GPT-2 (124 м), Pythia-70 м/160 м и Cerebras-111 м, имеет встраивание масштабируемой синусоидальной позиции, норму слоя внедрения, отсутствие смещений и была обучена только на 8 миллиардах токенов набора данных SlimPajama дома на 2xA6000. (На рисунке ошибочно обозначено как судорога-41м)
Модальности:
Генерация текста
Задача: Генерация текста
Автор: crumbly
Теги: gpt2a, custom_code, en
Лайков: 8 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.