С выходом Llama 3 пришло время MythoMax медленно исчезнуть… Давайте сделаем это стильно! Улучшенный, потенциально даже усовершенствованный вариант MythoMix, мой MythoLogic-L2 и Huginn объединяются с использованием весьма экспериментальной техники слияния тензорного типа. Основное отличие MythoMix заключается в том, что я позволил большему количеству Huginn смешиваться с отдельными тензорами, расположенными в начале и конце модели, что привело к повышению согласованности всей структуры. Сценарий и сопутствующие шаблоны, которые я использовал для их создания, можно найти здесь. Эта модель умеет как отыгрывать роли, так и писать истории из-за своей уникальной природы. Квантованные модели доступны на TheBloke: GGUF — GPTQ — AWQ (Вы лучшие!) Идея этого слияния заключается в том, что каждый слой состоит из нескольких тензоров, которые, в свою очередь, отвечают за определенные функции. Использование надежного понимания MythoLogic-L2 в качестве входных данных и обширных писательских способностей Хьюгинна в качестве выходных данных, по-видимому, привело к созданию модели, превосходящей оба показателя, что подтверждает мою теорию. (Более подробная информация будет опубликована позже). Этот тип слияния невозможно проиллюстрировать, поскольку к каждому из 363 тензоров было применено уникальное соотношение. Как и в случае с…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Gryphe
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 372 | Загрузок: 1,285
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
