Bloomz-560m-sft-chat Мы представляем модель Bloomz-560m-sft-chat, которая представляет собой доработку модели большого языка (LLM) bigscience/bloomz-560m. Эта модель примечательна тем, что она предварительно обучена для контекста чат-бота и транспонирована с float16 на bfloat16. Таким образом, эта модель служит надежной отправной точкой для доработки других, более конкретных задач. Модель была обучена в равной степени на французских и английских данных, что обеспечило максимальную эффективность для этих двух языков (и их взаимодействия). В связи с переходом с float16 на bfloat16 мы не гарантируем сохранение многоязычных возможностей исходной модели. Однако точная настройка может восстановить приемлемую производительность на других языках. Цель состоит в том, чтобы предварительно обучить все три модели (Bloomz-{560m, 3b, 7b1-mt}-sft-chat), чтобы обеспечить высокопроизводительные, энергоэффективные и быстрые «базовые» модели для вывода «реалистичных» инфраструктур, подходящих для бизнеса со стандартными промышленными возможностями. Bloomz благодаря своей лицензии обеспечивает свободное и гибкое промышленное использование. Его токенизатор был разработан с учетом истинного многоязычного контекста, при этом генерация токенов на слово значительно ниже по сравнению с…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: cmarkea
Теги: bloom, fr, en, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 1,000
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
