Эта модель карты соответствует версии инструкций 9B модели RecurrentGemma. Вы также можете посетить карточку модели базовой модели 9B. Набор инструментов для ответственного генеративного искусственного интеллекта RecurrentGemma на Kaggle Ниже мы поделимся некоторыми фрагментами кода о том, как быстро начать работу с моделью. Сначала обязательно установите преобразователи, а затем скопируйте фрагмент из раздела, соответствующего вашему варианту использования. В моделях, настроенных на инструкции, используется шаблон чата, которого необходимо придерживаться при разговорном использовании. Самый простой способ применить его — использовать встроенный шаблон чата токенизатора, как показано в следующем фрагменте. Давайте загрузим модель и применим шаблон чата к разговору. В этом примере мы начнем с одного взаимодействия с пользователем: как видите, каждому повороту предшествует разделитель, а затем роль объекта (либо пользователь для контента, предоставленного пользователем, либо модель для ответов LLM). Ход заканчивается жетоном. Вы можете использовать этот формат, чтобы создать приглашение вручную, если вам нужно сделать это без шаблона чата токенизатора. После того, как приглашение готово, генерацию можно выполнить следующим образом: RecurrentGemma — это семейство моделей открытого языка, построенное на основе нового…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: google
Теги: recurrent_gemma, conversational, endpoints_compatible
Лайков: 53 | Загрузок: 289
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
