Sakura-13B-LNovel-v0_8-4bit
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: SakuraLLM Теги: baichuan, custom_codeЛайков: 2 | Загрузок: 18 Открыть...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: SakuraLLM Теги: baichuan, custom_codeЛайков: 2 | Загрузок: 18 Открыть...
该GPTQ文件都是用AutoGPTQ生成的。 — Биты: 4/8 — GS: 32/128 — Порядок активации: True — Демпфирование %: 0,1 — Набор данных...
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: ssbuild Теги: baichuan, custom_code, text-generation-inference,...
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: ecnu-icalk Теги: baichuan, custom_code, text-generation-inference,...
Baichuan-7B-Instruction 为 Baichuan-7B 系列模型进行指令微调后的版本,预训练模型可见 Baichuan-7B。 Baichuan-7B 支持 int8 和 int4 量化,用户只需在推理代码中简单修改两行即可实现。请注意,如果是为了节省显存而进行量化,应加载原始精度模型到 CPU 后再开始量化;避免在 frompretrained 时添加 devicemap=’auto’ 或者其它会导致把原始精度模型直接加载到 GPU...
The ShieldLM model (paper link) initialized from Baichuan2-13B-Chat. ShieldLM is a bilingual (Chinese and English) safety detector that...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: sakuraumi Теги: baichuan, custom_code, text-generation-inference, endpoints_compatibleЛайков: 3 | Загрузок:...
и вы можете просмотреть http://localhost:8000/docs, чтобы увидеть пользовательский интерфейс Swagger, и вы можете просмотреть http://localhost:8000/docs, чтобы увидеть пользовательский...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: mxmax Теги: baichuan, custom_code, text-generation-inference, endpoints_compatibleЛайков: 3 | Загрузок:...
baichuan-7B-chatml 是支持多轮对话兼容于 ChatML 的模型。 模型基于 baichuan-7B 微调而成。 baichuan-7B-chatml 模型支持商用。但按照baichuan-7B的要求,如果将baichuan-7B衍生品用作商业用途,需要联系baichuan-7B 的许可方。 baichuan-7B-chatml is a model that supports multi-turn dialog...