— Обновление 0426: небольшая проблема с развертыванием модели «Лама-3-Чайка-Эво-8Б», но мы надеемся вернуть ее в свое время! — Обновление 0526: ознакомьтесь с нашей новейшей моделью EMM, Alpha-Ko-8B-Instruct. Это «моделированная» версия вектора чата из статьи «Вектор чата: простой подход к оснащению LLM с следованием инструкциям и согласованием модели на новых языках». Так что это не модель, это просто разница в весе, просто для удобства использования мне (или вам тоже)! Что я здесь понимаю: «Векторный метод чата» — это метод слияния, который использует разницу между базовой моделью, моделью с непрерывным предварительным обучением (обычно с переносом языка) и моделью чата; поэтому рецепт: модель (база) + весовой дифф (непрерывное предварительное обучение) + весовой дифф (инструктирование) или модель (базовый) + весовой дифф (непрерывное предварительное обучение + точная настройка) + весовой дифф (инструктирование). Итак, прежде чем (моя) первоначальная цель сравнить, какой метод лучше, llama3 → CP + вектор чата → FT против llama3 → CP → FT + вектор чата, кажется разумным сравнить его с другими методами в Mergekit. Помимо всего этого, я хотел бы поблагодарить @beomi за создание такой потрясающей корейской модели.
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: kuotient
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
