TinySwallow-1.5B — это японская компактная языковая модель, созданная с помощью TAID (временно-адаптивная интерполированная дистилляция), нашего нового метода дистилляции знаний. Мы использовали Qwen2.5-32B-Instruct в качестве модели учителя и Qwen2.5-1.5B-Instruct в качестве модели ученика. Модель была предварительно обучена на текстовых данных на японском языке, чтобы расширить возможности японского языка. Если вы ищете модель следования инструкциям, проверьте TinySwallow-1.5B-Instruct. — Разработано: Sakana AI и Swallow Team — Тип модели: авторегрессионная языковая модель — Язык(и): японский — Лицензия: Apache License, версия 2.0 — Бумага: https://arxiv.org/abs/2501.16937 — Блог: https://sakana.ai/taid-jp/ Эта модель предназначена только для целей исследований и разработок и ее следует рассматривать как экспериментальный прототип. Он не предназначен для коммерческого использования или развертывания в критически важных средах. Пользователь использует эту модель на свой страх и риск, ее производительность и результаты не гарантируются. Sakana AI не несет ответственности за любые прямые, косвенные, особые, случайные или косвенные убытки, а также любые убытки, возникшие в результате использования этой модели, независимо от полученных результатов. Пользователи должны полностью…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: SakanaAI
Теги: qwen2, conversational, ja, text-generation-inference, endpoints_compatible
Лайков: 35 | Загрузок: 3,031
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
