05.05.2024: После объединения коммита 889bdd7 у нас теперь есть предварительная токенизация BPE для этой модели, поэтому я буду обновлять все количественные данные. 15 марта 2024 г.: Поддержка этой модели только что была объединена — коммит 12247f4 — PR#6033. Кванты матрицы важности (imatrix) GGUF для https://huggingface.co/CohereForAI/c4ai-command-r-v01. Матрица важности была обучена для ~ 100 тыс. токенов (200 пакетов по 512 токенов) с использованием wiki.train.raw. Какой GGUF мне подойдет? (из Artefact2) Иматрица также используется для K-квантов. > C4AI Command-R — это исследовательская версия высокопроизводительной генеративной модели с 35 миллиардами параметров. Command-R — это большая языковая модель с открытыми весами, оптимизированная для различных случаев использования, включая рассуждения, обобщение и ответы на вопросы. Command-R имеет возможность многоязычной генерации, оцениваемой на 10 языках, и высокопроизводительные возможности RAG. > Функциональность использования инструментов Command-R принимает разговор в качестве входных данных (с дополнительной преамбулой пользовательской системы), а также список доступных инструментов. Затем модель сгенерирует список действий в формате JSON для выполнения с подмножеством этих инструментов. Command-R может использовать один из поставляемых инструментов более одного раза. > Command-R…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dranger003
Теги: gguf, endpoints_compatible, imatrix, conversational
Лайков: 28 | Загрузок: 504
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
