Наша модель Fugaku LLM — это отечественная модель, предварительно обученная с нуля с помощью суперкомпьютера Fugaku. Эта модель очень прозрачна и безопасна, поскольку обучается с нуля на наших собственных данных. Данные обучения состоят в основном из японских данных, и модель демонстрирует отличные японские характеристики. Разработано: Fugaku-LLM Тип модели: GPT-2 Языки: японский, английский Библиотека: DeepSpeedFugaku Tokenizer: llm-jp-tokenizer, code10ken20kja30k v2.2 Лицензия: Fugaku-LLM Условия использования Мы оценивали нашу модель с помощью японского теста MT так же, как Nejumi LLM Leaderboard Neo. Мы изменили только следующие части кода Fastchat: — Добавлен параметр «addspecialtokens=False» при вызове токенизатора для запроса ввода. — Ограничьте количество генерируемых токенов до менее 2048. Условия использования Fugaku-LLM доступны в файлах LICENSE и LICENSE_ja. Результаты обработки с использованием Fugaku-LLM могут содержать ложь, предвзятость, контент, ущемляющий права других лиц, или контент, который не соответствует эффективности или полезности, ожидаемой Пользователями. Это достижение основано на правительственном проекте суперкомпьютера Фугаку «Разработка метода распределенного обучения для больших языков…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: Fugaku-LLM
Теги: gpt2, ja, en, text-generation-inference, endpoints_compatible
Лайков: 28 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
