NYTK/PULI-LlumiX-32K - Каталог нейросетей
Генерация текста

NYTK/PULI-LlumiX-32K

Добавлено:
NYTK/PULI-LlumiX-32K

Для получения более подробной информации или тестирования нашей модели инструкций посетите наш демонстрационный сайт. — Обучение с помощью OpenChatKit github. — Модель LLaMA-2-7B-32K постоянно предварительно обучалась на венгерском наборе данных. — Модель была расширена до длины контекста 32 КБ с интерполяцией позиций. — Контрольная точка: 100 000 шагов. — Венгерский: 7,9 миллиардов слов, документы (763 КБ), длина которых превышает 5000 слов. — Английский: Long Context QA (2 миллиарда слов), BookSum (78 миллионов слов).

Модальности:
Генерация текста


Задача: Генерация текста
Автор: NYTK
Теги: llama, puli, custom_code, hu, en, text-generation-inference, endpoints_compatible
Лайков: 11  |  Загрузок: 298

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.