eryk-mazus/polka-1.1b-chat — первая польская модель, обученная работать в качестве полезного диалогового помощника, который можно запускать локально. Модель основана на TinyLlama-1.1B со специальным расширенным токенизатором для более эффективной генерации польского текста, который был дополнительно предварительно обучен на 5,7 миллиардах токенов. Затем он был доработан примерно на 60 тыс. синтетически сгенерированных и машинно переведенных многоходовых диалогов с применением оптимизации прямых предпочтений (DPO). Кроме того, мы выпускаем: polka-1.1b — нашу базовую модель с расширенным токенизатором и дополнительным предварительным обучением на польском корпусе, выбранном с использованием DSIR polka-pretrain-en-pl-v1 — набор данных для предварительного обучения polka-dpo-v1 — набор данных пар DPO polka-1.1b-chat-gguf — файлы GGUF для модели чата. Это приглашение доступно в виде шаблона чата, что означает, что вы можете форматировать сообщения с помощью метода tokenizer.applychattemplate(), как показано в примере выше.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: eryk-mazus
Теги: llama, generated_from_trainer, conversational, polish, pl, text-generation-inference
Лайков: 19 | Загрузок: 1,269
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
