BlueMethod — это довольно запутанный эксперимент по многоуровневому слиянию. В дополнение к экспериментальному характеру слияния объединение моделей было выполнено с помощью специального сценария, который рандомизировал процент каждого слоя, объединенного из одной модели в другую. Это подготовка к более масштабному проекту. [Слияния первого и второго уровня не опубликованы; внутреннее соглашение об именах] Несколько моделей инструкций и составных моделей были объединены для создания окончательной результирующей модели; Эта модель очень открыта для экспериментальных подсказок, можно использовать инструкции как Альпаки, так и Викуньи. Это может дать интересные результаты. https://www.huggingface.co/openaccess-ai-collective/manticore-13b https://huggingface.co/digitous/13B-HyperMantis https://huggingface.co/digitous/Alpacino13b Каждая модель и LoRA были выбраны вручную и рассмотрены на предмет того, какой вклад они могут внести в этот ансамбль. Спасибо каждому из вас за невероятную работу по созданию лучших вещей, которые могут появиться в этом сообществе.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: CalderaAI
Теги: llama, alpaca, cot, vicuna, uncensored, merge, mix, text-generation-inference
Лайков: 7 | Загрузок: 553
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
