ausboss/llama-30b-SuperHOT-4bit - Каталог нейросетей
Генерация текста

ausboss/llama-30b-SuperHOT-4bit

Добавлено:
ausboss/llama-30b-SuperHOT-4bit

Никаких гарантий качества вывода, просто загружаю то, что у меня есть, чтобы другие могли с этим поиграться. Даже не уверен, что рейтинг в Cutoff-8192 правильный (думаю, он должен быть 10, может быть… не помню). Все обучено с помощью Flash Attention с длиной последовательности разговоров в диапазоне от 8K до 16K токенов (без Алиби, если не указано иное) (Лично мне больше нравится версия с обрезанием 8K, поэтому я бы сказал, начните с этого) Комбинация различных наборов данных и очищенных журналов, преобразованных в наборы данных, включая, помимо прочего: — Bluemoon На основе фанатов — Гильдия ролевых игр — Результаты сообщества — Dan’s PocketDoc/RUCAIBox-Story-Generation-Alpaca — ИльяГусев/gptroleplayrealm — другие SuperHOT — это модель, ориентированная на художественную литературу. Никакого выравнивания обучающих данных не проводилось. Помните, что эта модель может выводить вредоносный, жестокий или иной проблемный контент. Любой формат должен работать с такими ранними контрольными точками. Однако данные обучения полностью имеют следующий формат: «Любые другие разные данные» означает, что вы должны иметь возможность добавлять любые дополнительные метаданные для истории или персонажей. То есть, опять же, формат не имеет такого большого значения на этих ранних контрольных точках. Я нашел…

Модальности:
Генерация текста


Задача: Генерация текста
Автор: ausboss
Теги: llama, endpoints_compatible
Лайков: 5  |  Загрузок: 4

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.