Cadet-Tiny, вдохновленный Cosmo-XL от Allen AI, представляет собой очень маленькую диалоговую модель, обученную на основе набора данных SODA. Cadet-Tiny предназначен для вывода на периферии (на чем-то маленьком, например Raspberry Pi с 2 ГБ ОЗУ). Cadet-Tiny обучен на предварительно обученной модели t5-small от Google, и в результате его размер составляет около 2% от размера модели Cosmo-3B. Это моя первая модель НЛП SEQ2SEQ, которую я когда-либо создавал! Я очень рад поделиться этим здесь, на HuggingFace! 🙂 Если у вас есть какие-либо вопросы или комментарии по улучшениям, свяжитесь со мной по адресу: tcgoldfarb@gmail.com. Вот ссылка на файл Google Colab, где я рассказываю о процессе обучения модели и использовании общедоступного набора данных SODA из AI2. https://colab.research.google.com/drive/1cx3YujrjGQkseqzXZW-2L0vEyEjdss?usp=sharing Особая благодарность Хёну Киму за обсуждение со мной наилучшего способа использования набора данных SODA. Если вы еще не ознакомились с их работой с SODA, Prosocial-Dialog или COSMO, рекомендую вам это сделать! Также прочитайте статью о СОДЕ! Статья указана ниже.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ToddGoldfarb
Теги: t5, text2text-generation, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 167
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
