bartowski/Naphula_Cyberdonia-24B-v8-GGUF - Каталог нейросетей
Генерация текста

bartowski/Naphula_Cyberdonia-24B-v8-GGUF

Добавлено:
bartowski/Naphula_Cyberdonia-24B-v8-GGUF

Оригинальная модель: https://huggingface.co/Naphula/Cyberdonia-24B-v8 Детали модели: — Количество параметров: 24B (контрольная точка источника) — Поддержка ввода: текст — Спекулятивное декодирование: нет — Иматрица: да — Детали Не знаете, что выбрать? Grab Q4KM (14,57ГБ) — обычно хорошее сочетание размера и производительности. Инструкции по загрузке доступны здесь Эти кванты запускаются с помощью llama.cpp — устанавливаются в одну строку через llama.app: llama-server включает встроенный веб-интерфейс чата, который по умолчанию обслуживается по адресу http://localhost:8080. Эти кванты были сделаны с помощью llama.cpp release b11845 — если архитектура этой модели поддерживается заново, вам понадобится этот релиз или более новый для их запуска. Они также работают в: LM Studio · koboldcpp · ramalama · Jan AI · Text Generation Web UI · LoLLMs · Atomic Chat All quants made using imatrix option, with a calibration corpus rendered through this model’s own chat template. Корпус сочетает простую прозу с разговорами о вызове инструментов и рассуждениях (исходные данные корпуса), закодированными точно так, как эта модель видит их при выводе, и обрабатывается с помощью —parse-special, поэтому специальные маркеры чат-формата вносят вклад в матрицу важности. Корпус, отображаемый для этой модели, включен в это репозиторий:…

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: bartowski
Теги: gguf, all genres, conversational, creative, creative writing, dark writing, della, fiction
Лайков: 3  |  Загрузок: 3,356

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.