Заметки Севериана: R1 дома за RP, в буквальном смысле. Умею обращаться с картами с уловками и тонкими трюками. Благодаря хорошему стартовому аргументу + подсказке я получаю последовательно структурированные ответы, которые имеют большое количество вариаций во время переброса. Изображение персонажа/сценария хорошее, несмотря на то, что я уделяю особое внимание стилю письма, временами ссылки на лорбуки правильные. Помойка, похоже, не является большой проблемой при включенном мышлении. Некоторое подражание пользователю наблюдается редко. Проза освежает, если вы воспользуетесь тем, что сделал я (фиксация стиля письма). Я знаю, я говорил, что Мэриголд будет моим ежедневным водителем, но сейчас она такая хорошая. Шаблон контекста/инструкции: ChatML. Определенно не тестировался с инструкцией ChatML и шаблоном Mistral v7, не-а. Сэмплеры: температура 0,9, minp 0,05, топа 0,3, TFS 0,75, повторение_пенальти 1,03, DRY, если у вас есть к нему доступ. (или нет, см. ниже.) Во время нашего тестирования лучше всего работала подсказка, производная от virt-io, но вы можете использовать то, что вам нравится. Не стесняйтесь тестировать любую схему рассуждения, которая вам наиболее удобна, но вот моя рекомендация. В моей подсказке есть строка: «По крайней мере, что это сделало для меня…»
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: trashpanda-org
Теги: qwen2, mergekit, mergekitty, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 101 | Загрузок: 23
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
