> [!NOTE] > Формат Альпака, как правило, работает, но я рекомендую попробовать мои предустановленные настройки SillyTavern и книгу правил для достижения наилучших результатов. Подробности см. в разделе «Как запустить» ниже. Модель имеет контекстное ограничение в 32 тыс. токенов. Однако качество ответов любой модели малого и среднего размера начинает снижаться после 16 тыс. токенов, а после 21 тыс. токенов деградация происходит более быстро. Я рекомендую использовать максимум 21 тыс. токенов для оптимальной производительности. > [!WARNING] >- Q5KM-imat >- Q8_0 >- Просмотреть все >- gguf-my-repo Чтобы загрузить основную ветку в папку с именем IceMoonshineRP-7b: Если вы удалите параметр —local-dir-use-symlinks False, файлы вместо этого будут храниться в центральном каталоге кэша Hugging Face (по умолчанию в Linux: ~/.cache/huggingface), и будут добавлены символические ссылки. в указанный —local-dir, указывающий на их реальное местоположение в кеше. Это позволяет возобновить прерванную загрузку и быстро клонировать репозиторий в несколько мест на диске, не запуская повторную загрузку. Обратной стороной и причиной, по которой я не указываю это как вариант по умолчанию, является то, что файлы затем скрываются в папке кэша, и становится сложнее узнать, где находится ваш…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: icefog72
Теги: mistral, mergekit, merge, alpaca, not-for-all-audiences, nsfw, conversational, text-generation-inference
Лайков: 19 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
