WangChanGLM — это многоязычный Facebook XGLM-7.5B с точной настройкой инструкций, использующий коммерчески допустимые наборы данных с открытым исходным кодом (LAION OIGchip2 и infilldbpedia, DataBricks Dolly v2, OpenAI TL;DR и Hello-SimpleAI HC3; около 400 тыс. примеров), выпущенный под лицензией CC-BY SA 4.0. Модели обучены выполнять подмножество задач по выполнению инструкций, которые мы считаем наиболее актуальными, а именно: понимание прочитанного, мозговой штурм и творческое письмо. Мы предоставляем веса для модели, точно настроенной на наборе данных только на английском языке (wangchanglm-7.5B-sft-en), а также еще одной контрольной точки, дополнительно настроенной на тайском наборе данных, переведенном Google (wangchanglm-7.5B-sft-enth). Мы выполняем оценку в стиле Vicuna, используя как людей, так и ChatGPT (в нашем случае gpt-3.5-turbo, поскольку мы все еще находимся в списке ожидания gpt-4`) и наблюдаем некоторые расхождения между двумя типами анноаторов. Все обучающие и оценочные коды доступны под лицензией Apache-2.0 в нашем Github, а также наборы данных и веса моделей на HuggingFace. Как и в случае с Dolly v2, мы используем только коммерчески разрешенные предварительно обученные модели и наборы данных с открытым исходным кодом, наши модели не ограничены некоммерческими положениями, такими как модели, которые используют LLaMA в качестве основы…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: pythainlp
Теги: xglm, en, th, ja, vi, endpoints_compatible
Лайков: 9 | Загрузок: 21
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
