Это новый «Llama-3.2-1B-Instruct», максимальный контекст 131 000 (128 КБ) с набором данных ужасов NEO IMATRIX Tiny «Wee». Мощность этого 1B (для его размера) откровенно ошеломляет… и составляет 190 токенов в секунду + на графическом процессоре. Эта модель пуленепробиваемая и работает со всеми параметрами, включая настройки температуры от 0 до 5. Для повышения креативности (ужас) к ней был применен набор данных NEO IMATRIX V2. (см. несколько примеров ниже) — добавляет «покрытие черной краской» к любой подсказке «Ужас». — Добавляет «темный оттенок» к любой другой творческой подсказке. — Увеличивает интенсивность сцены, истории или ролевого взаимодействия. — Увеличивает живость прозы. — В некоторых случаях увеличить обучение следованию образцу (т.е. рассказу и прозе). — Вызывает ощущение надвигающегося «ужаса», ПОТОМ приносит «ужас». — Может создавать и/или подразумевать графический ужас в зависимости от ваших подсказок. Это модель LLAMA 3.2, для нее требуется шаблон Llama3, но она может работать с другими шаблонами и имеет максимальный контекст 128 КБ. Если вы используете шаблон «Command-R», ваш результат будет сильно отличаться от использования шаблона «Llama3». { «name»: «Llama 3», «inferenceparams»: { «inputprefix»: «usernn», «inputsuffix»: «assistantnn»,…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, creative, creative writing, fiction writing, plot generation, sub-plot generation, story generation, scene continue
Лайков: 6 | Загрузок: 498
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.