Функция, вызывающая версию CognitiveComputations/dolphin-2.6-mistral-7b-dpo-laser. Она следует за реализацией laserRMT @ https://github.com/cognitivecomputations/laserRMT и новой методикой обучения — мы частично замораживаем модель в соответствии с лазерным анализом (скоро появится официальная статья), что эффективно предотвращает существенную проблему, связанную с забыванием ранее приобретенных знаний языковыми моделями. Этот аспект особенно важен при попытке научить модель конкретным навыкам, таким как вызов функций. Мы намерены стать первыми в серии экспериментов, проводимых Cognitive Computations. Эта модель обучена на варианте функции glaive, вызывающей v2, и использует их формат для объявления функций и их вызова. Обратите внимание: как и в других моделях Dolphin, для представления чатов вам следует использовать синтаксис ChatML. Затем модель попытается вызвать указанные функции, используя токен и некоторый JSON с именем и параметром аргументов. Ваш код должен обнаружить это и прекратить выполнение, вызвать вызов функции и ввести ответ обратно в контекст со следующим синтаксисом: Затем вы должны предложить помощнику сгенерировать еще одно…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: dphn
Теги: mistral, text-generation-inference, endpoints_compatible
Лайков: 28 | Загрузок: 22
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
