flashvenom/Airoboros-13B-SuperHOT-8K-4bit-GPTQ - Каталог нейросетей
Генерация текста

flashvenom/Airoboros-13B-SuperHOT-8K-4bit-GPTQ

Добавлено:
flashvenom/Airoboros-13B-SuperHOT-8K-4bit-GPTQ

Загрузка модели Airoboros-13B-SuperHOT в 4-битной версии GPTQ, преобразованной с использованием GPTQ-for-LLaMa; Исходная модель с https://huggingface.co/Peepy/Airoboros-13b-SuperHOT-8k. Для использования контекста 8k вам понадобится патч обезьяны при выводе, см. имеющийся файл патча. Если вы используете другой механизм вывода (например, llama.cpp / exllama), вам нужно будет добавить туда патч обезьяны. Файл патча присутствует в репозитории или доступен здесь: https://huggingface.co/kaiokendev/superhot-13b-8k-no-rlhf-test/raw/main/llamaropescaledmonkeypatch.py

Модальности:
Генерация текста

Задача: Генерация текста
Автор: flashvenom
Теги: llama, endpoints_compatible
Лайков: 6  |  Загрузок: 6

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #endpoints_compatible #llama

Похожие модели (Генерация текста)

Генерация текста

PocketDoc/Dans-PersonalityEngine-V1.1.0-12b

Dans-PersonalityEngine-V1.1.0-12b Эта серия моделей должна быть разнообразной по своим возможностям и должна быть вполне способна как к совместному...

66
HF Подробнее
Генерация текста

TIGER-Lab/Mantis-8B-Fuyu

— Mantis-Fuyu — это LMM на базе Fuyu с чередующимся текстом и изображением в качестве входных данных, обучение...

14
HF Подробнее
Генерация текста

akineAItech/kagemusya-7B-v1.5

このモデルは、Ninja-V3をベースにおよそ1GBのВеб-сайт доступен для скачивания в Интернете.元来のチャット能力は最低限レベルに低下しましたが、小説の続きを書かせるといった用途に適しています。データセットの改良により小説の流れが単調になりにくくなりました。 викунья-1.1テンプレートを使うことでチャットすることもできます。のような語句を書いておくとAIは気持ちその方向に小説を書いてくれるような気がします。　（書式はある程度融通が効きます） Модальности:Генерация текста Задача: Генерация текста Автор: akineAItech Теги: mistral, text-generation-inference, endpoints_compatibleЛайков:...

5
HF Подробнее