Ортогональное управление активацией для устранения отказов (Unscensor)
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Kooten
Теги: mistral, conversational, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 21
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Pythia Scaling Suite — это набор моделей, разработанных для облегчения исследования интерпретируемости. Он содержит два набора по восемь...
СюаньЮань-70B是基于Llama2-70b模型进进行中文增强的一系列金融大模型,包含大量中英文语料增量预训练之后的底座模型以及使用高质量指令数据进行对齐的chat模型。我们的目标是:大模型通用能力尽可能保持的同时，金融领域能力得到明显提升,服务于金融领域。目前发布的模型和下载链接如下:考虑到金融场景下存在非常多长文本的业务,基于我们高效的分布式训练框架,我们将模型的上下文长度在预训练阶段从4k, 8k, 16k, 据我们所知, 这也是首个在70B — 参数量级上达到8k — 以上上下文长度的开源大模型.具体细节参考:СюаньЮань-70B -我们设计了一套数据清洗流水线,精心准备了各类通用数据（互联网网页、百科、论坛、社交媒体、问答等）以及金融相关数据（金融资讯、公司公告、金融百科、金融书籍、证书试题等）高质量数据-中英数据:首先llama2的英文能力足够优秀,所以为了保证英文能力不降,我们扩充词表之后，使用高质量的中英语料进行增量预训练,其中中英配比为3:1； -通用金融数据:为了提升模型在金融能力上效果, 预训练过程中通用语料与金融预料比例为9:1,且随着训练进行,逐步提升金融语料的占比。 — 训练效率:我们采取了一系列的加速优化策略，包括对底层数据加载和分布式训练框架的多处优化，使用вспышка внимания2替代само-внимание模块,使用基于CPP CUDA: Fused, LLama,...
Предупреждение о явном содержании. Поддержка Mawdistical: «Создание «ауры хаоса», подчеркивающей драконовский пыл». Draconia-Overdrive-32B — это выразительная, творческая и...
Это экспериментальная ЛАЗЕРНАЯ версия NeuralHermes с использованием laserRMT, основанная на этой статье. Фернандо Фернандес Нето и Эрик Хартфорд....
