Модель генерации текста
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: S4sch
Теги: gguf, mistral, endpoints_compatible
Лайков: 3 | Загрузок: 81
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Мы представляем Emu3, новый набор современных мультимодальных моделей, обученных исключительно с помощью прогнозирования следующего токена! Токенизируя изображения, текст...
Этот репозиторий содержит варианты Qwen/Qwen3-14B LiteRT-LM, оптимизированные для генерации текста на устройстве. Смешанный артефакт INT4 .litertlm был создан...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
Инструкция Baichuan-13B 为 Baichuan-13B 系列模型进行指令微调后的版本，预训练模型可见 База Baichuan-13B。 Baichuan-13B 支持int8 и int4量化,用户只需在推理代码中简单修改两行即可实现。请注意,如果是为了节省显存而进行量化,应加载原始精度模型到CPU 后再开始量化；避免在 frompretrained 时添加 devicemap=’auto’ 或者其它会导致把原始精度模型直接加载到 GPU的行为的参数。 整体模型基于Baichuan-13B,...
