Meno-Tiny-0.1 является потомком модели Qwen2.5-1.5B-Instruct, которая была доработана на специальном российском наборе данных инструкций. Это языковая модель параметров 1,5B с декодером. В ее основе лежит архитектура Трансформера с активацией SwiGLU, смещением внимания QKV, вниманием к групповому запросу и т. д. Название «Мено» связано с адаптацией этой модели для ответа на вопросы из текста в конвейере RAG (в честь теории познания как воспоминания из сократического диалога «Мено»). Код Meno-Tiny-0.1 был в последних трансформерах Hugging Face, и мы советуем вам использовать последнюю версию трансформеров. Здесь мы предоставляем фрагмент кода с помощью applychattemplate, чтобы показать вам, как загрузить токенизатор и модель и как генерировать контент. Meno-Tiny-0.1 был специально «русифицирован» на этапе доводки, но сохранил возможность отвечать на английском языке. Ниже приведены два примера общения с Meno-Tiny-0.1 на английском и русском языках. Использование Meno-Tiny-0.1 с различными системными и пользовательскими подсказками позволяет вам раскрыть его различные возможности. Основными задачами, которые может решать Meno-Tiny-0.1, в том числе в режиме малокадровых подсказок, являются: — Отвечать…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: bond005
Теги: qwen2, nlp, chat, conversational, ru, en, text-generation-inference, endpoints_compatible
Лайков: 13 | Загрузок: 528
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
