TinySwallow-1.5B-Instruct — это настроенная на инструкции версия TinySwallow-1.5B, созданная с помощью TAID (временно-адаптивная интерполированная дистилляция), нашего нового метода дистилляции знаний. Мы использовали Qwen2.5-32B-Instruct в качестве модели учителя и Qwen2.5-1.5B-Instruct в качестве модели ученика. Модель была дополнительно настроена для повышения ее способности следовать инструкциям и участвовать в разговорах на японском языке. — Тип модели: авторегрессионная языковая модель — Язык(и): японский — Документ: https://arxiv.org/abs/2501.16937 — Блог: https://sakana.ai/taid-jp/ — Наборы обучающих данных: — Gemma-2-LMSYS-Chat-1M-Synth — tokyotech-llm/swallow-magpie-ultra-v0.1 — tokyotech-llm/swallow-gemma-magpie-v0.1 Эта модель предназначена только для целей исследований и разработок и ее следует рассматривать как экспериментальный прототип. Он не предназначен для коммерческого использования или развертывания в критически важных средах. Пользователь использует эту модель на свой страх и риск, ее производительность и результаты не гарантируются. Sakana AI не несет ответственности за любые прямые, косвенные, особые, случайные или косвенные убытки, а также любые убытки, возникшие в результате использования этой модели, независимо от полученных результатов. Пользователи…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: SakanaAI
Теги: qwen2, conversational, ja, text-generation-inference, endpoints_compatible
Лайков: 56 | Загрузок: 12,620
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
