Chikuma — это модель с параметрами 10,7B, объединяющая следующие модели с использованием LazyMergekit: sethuiyer/SynthIQ-7b openchat/openchat-3.5-0106 Название «Chikuma» навеяно рекой Чикума, самой длинной в Японии, известной своим непрерывным течением и извилистым путем. Это метафорически отражает глубину, гибкость и адаптируемость модели при обработке и понимании языка. Это также идеально соответствует использованному здесь подходу — масштабированию глубины, вдохновленному SOLAR 10.7B. ChatML также работает, но обязательно добавьте предложение «Всегда используйте, когда хотите завершить ответ», поскольку токен eos по умолчанию — . 1. text-generation-webui, LLaMa-Точные настройки выборки. 2. Конвейер генерации текста трансформаторов, температура=4.0, topk=50, topp=0.01. Чикума находится на Олламе. Вы можете использовать его, выполнив команду в своем терминале. Если у вас ограниченные вычислительные ресурсы, посмотрите это видео, чтобы узнать, как запустить его на серверной части Google Colab.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: sethuiyer
Теги: mistral, merge, conversational, en, model-index, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 88
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
