На данный момент не ведется Тонкая настройка! так как эта модель содержит все предыдущие модели! Эта модель содержит множество скрытых тензоров: поскольку в ней появилось множество адаптеров Lora для различных задач, таких как зрение и звук. Проблема заключалась в том, что по какой-то причине я не мог заставить дополнительные головы отображаться, как другие модели. например, модель llava… я полагаю, эта модель может изменить config.json на модель llava, и да! оно работает! т.е. он может думать и имеет скрытые мыслительные головы? но вам нужно его настроить! У него есть головки видения, но я также не смог настроить конфигурацию! Итак, скрытые таланты: он также был объединен с материнскими моделями для QUiet (мысли) и (видение llava и т. д.), поэтому тензоры есть. я просто не понял, как настроить дополнительные функции. поскольку им нужен один обучающий пример для заполнения скрытого тензора, следовательно, они сливаются. и все же, когда модель переведена в режим обучения, т.е. путем установки модели после загрузки в model.TRAIN… появляются тензоры в ожидании обучения, поэтому просто добавьте peft и начните обучение! ЭТА ВЕРСИЯ БЫЛА ОБНОВЛЕНА, ВКЛЮЧАЯ КИБЕРМОЗГ! (Скрытые тензоры) * Nitral-AI/Infinite-Mika-7b — 128k — Обеспечение расширения контекста. Этот эксперт представляет собой…
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: LeroyDyer
Теги: mistral, mergekit, megamerge, code, Cyber-Series, conversational, en, text-generation-inference
Лайков: 5 | Загрузок: 69
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
