В выпуске i1 представлены модели, квантованные с помощью матрицы важности, что значительно повышает производительность при работе с ключевыми структурами подсказок. Этот репозиторий содержит версии GGUF (GPT-Generated Unified Format) модели Sinbad-The-Sailor/Qwen3.5-4B-NSFW-ARA-Heretic-Literotica, специализированной языковой модели, построенной на архитектуре Qwen 3.5 (параметры 4B). Он предназначен для захватывающего эротического повествования и творческой прозы, унаследовав технические подходы без цензуры фреймворков ARA и Heretic. Эти модели GGUF были квантованы с использованием матрицы важности (Imatrix), что сделало их более надежными и сохранило ключевые знания, которые часто теряются при стандартном квантовании. GGUF — это двоичный формат, предназначенный для развертывания больших языковых моделей в одном файле, что упрощает его использование с такими инструментами, как llama.cpp. Он является преемником формата GGML и предлагает лучшую производительность, гибкость и поддержку метаданных. .i1. в именах файлов означает, что эти модели были квантованы с использованием матрицы важности. Этот продвинутый метод измеряет чувствительность различных весов в нейронной сети и использует эту информацию для более интеллектуального квантования модели. Преимущества: — Сокращение…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Sinbad-The-Sailor
Теги: gguf, nsfw, story-generation, erotica, literotica, qwen, lora, ara
Лайков: 14 | Загрузок: 5,584
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
