Он был квантован до 4 бит с использованием: https://github.com/TigerResearch/TigerBot/tree/main/gptq.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TigerResearch
Теги: bloom, endpoints_compatible
Лайков: 15 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Специализированная модель параметров 4B, точно настроенная для вызова функций и использования инструментов, оптимизированная для локального развертывания с помощью...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
— 🔥🔥🔥 Символ-LLM принят ACL 2024 ！Увидимся в Таиланде! — 🔥🔥🔥Мы выложили в открытый доступ модели серии Символ-LLM...
Эта модель sparsetral-16x7B-v2 дополнительно настроена с использованием SPIN на OpenHermes-2.5, смешанного с традиционными образцами DPO. Это итерация_0, планируйте...
