Он был квантован до 4 бит с использованием: https://github.com/TigerResearch/TigerBot/tree/main/gptq.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TigerResearch
Теги: bloom, endpoints_compatible
Лайков: 6 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
链接: https://pan.baidu.com/s/1NBBoXI7SFRwrv5-UT9Ayow?pwd=g89m 提取码: g89m转换权重后，使用示例请参考: https://github.com/icalk-nlp/EduChat#%E4%BD%BF%E7%94%A8%E7%A4%BA%E4%BE%8B Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: ecnu-icalk Теги: llama,...
CharGen v3 mini — небольшая модель, которая поможет вам писать персонажей для ролевых игр. Он создает символы на...
Исходная модель: https://huggingface.co/HuggingFaceTB/SmolLM2-360M-Instruct Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
LFM2.5-JP — это модель японского языка, основанная на гибридной архитектуре LFM2.5, оптимизированная для задач создания и завершения японского...
