Qwen/Qwen-7B

🤗 Обнимающее лицо&nbsp&nbsp | &nbsp&nbsp🤖 ModelScope&nbsp&nbsp | &nbsp&nbsp 📑 Бумага &nbsp&nbsp ｜ &nbsp&nbsp🖥️ Демо WeChat (微信)&nbsp&nbsp | &nbsp&nbspDiscord&nbsp&nbsp ｜ &nbsp&nbspAPI通义千问-7B(Qwen-7B)是阿里云研发的通义千问大模型系列的70亿参数规模的模型。Qwen-7B是基于Transformer的大语言模型,在超大规模的预训练数据上进行训练得到。预训练数据类型多样,覆盖广泛,包括大量网络文本、专业书籍、代码等。同时，在Qwen-7B的基础上，我们使用对齐机制打造了基于大语言模型的AI助手Qwen-7B-Chat。相较于最初开源的Qwen-7B模型,我们现已将预训练模型和Chat模型更新到效果更优的版本。本仓库为Qwen-7B预训练模型的仓库。 1.大规模高质量训练语料:使用超过2.4万亿tok ens的数据进行预训练,包含高质量中、英、多语言、代码、数学等数据，涵盖通用及专业领域的训练语料。通过大量对比实验对预训练语料分布进行了优化。 2. Место действия: Qwen-7B находится в локации «Qwen-7B».务上（涵盖常识推理、代码、数学、翻译等）,效果显著超越现有的相近规模开源模型,甚至在部分指标上相比更大尺寸模型也有较强竞争力。具体评测结果请详见下文。 3.覆直更全面的词表:相比目前以中英词表为主的开源模型, Qwen-7B使用了约15万大小的词表。该词表对多语言更加友好,方便用户在不扩展词表的情况下对部分语种进行能力增强和扩展。 Qwen-7B — это 7B-параметрическая версия серии больших языковых моделей Qwen (сокр. Tongyi Qianwen), предложенной Alibaba Cloud. Qwen-7B — это модель большого языка на основе Transformer, которая предварительно обучается на большом объеме данных, включая веб-тексты, книги, коды и т. д. Кроме того, на основе предварительно обученного Qwen-7B мы выпускаем Qwen-7B-Chat, ИИ-помощник на основе большой модели, который обучается методам выравнивания. Теперь мы обновили предварительно обученные модели и модели чата для…

Модальности:
Генерация текста

Задача: Генерация текста
Автор: Qwen
Теги: qwen, custom_code, zh, en
Лайков: 396  |  Загрузок: 167,953

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.