LLM-jp-4 — это серия больших языковых моделей, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики. Этот репозиторий предоставляет базовую модель llm-jp-4-8b. Обзор моделей LLM-jp-4 с различными размерами параметров см. в разделе: — Модели LLM-jp-4. Базовые модели обучаются только с помощью предварительного и промежуточного обучения. Модели после обучения выравниваются с использованием контролируемой точной настройки (SFT) и прямой оптимизации предпочтений (DPO) без обучения с подкреплением. Практические примеры использования и подробные инструкции по использованию моделей можно найти в нашей кулинарной книге. Чтобы поддержать дальнейшее развитие LLM-jp, мы были бы очень признательны, если бы вы рассказали, как вы используете результаты LLM-jp, через форму опроса. — Тип модели: языковая модель на основе преобразователя. — Архитектура: токенизатор этой модели основан на модели Huggingface/Tokenizers Unigram с резервным байтом. Словарные статьи были преобразованы из llm-jp-tokenizer v4.0. Пожалуйста, обратитесь к README.md llm-jp-tokenizer для получения подробной информации о процедуре создания словаря (чистое обучение SentencePiece не воспроизводит наш словарь). > [!ПРИМЕЧАНИЕ] >…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: llm-jp
Теги: llama, conversational, en, ja, text-generation-inference
Лайков: 6 | Загрузок: 4,791
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
