Это модель GPT-2, обученная в llm.c на 100 тысяч шагов (размер пакета 1 миллион) на FineWeb-EDU. Гораздо более подробная информация находится здесь: https://github.com/karpathy/llm.c/discussions/677. Эта модель точно такая же, как в сообщении выше, за исключением изменения -x 100000 для выполнения 100 тысяч шагов. Модель достигла показателя HellaSwag 57,7.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: karpathy
Теги: gpt2, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.