— 27.12.2023 — Новая модель уже здесь! Обучено только с использованием общедоступного корейского текстового корпуса: https://huggingface.co/beomi/open-llama-2-ko-7b — 2023.10.19 — Исправлена ошибка Tokenizer (пространство не применяется при декодировании) после transforemrs>=4.34.0 Llama-2-Ko служит расширенной версией Llama 2, использующей расширенный словарный запас и включение корейского корпуса в его дальнейшую версию. предварительная подготовка. Как и его предшественник, Llama-2-Ko работает в широком диапазоне генеративных текстовых моделей, охватывающих от 7 до 70 миллиардов параметров. В этом репозитории основное внимание уделяется предварительно обученной версии 7B, которая адаптирована для формата Hugging Face Transformers. Чтобы получить доступ к другим моделям, обратитесь к указателю, приведенному ниже. Вариации Llama-2-Ko будут иметь различные размеры параметров — 7B, 13B и 70B, а также предварительно обученные и точно настроенные варианты. Llama-2-Ko — это авторегрессионная языковая модель, использующая оптимизированную архитектуру преобразователя на основе Llama-2. Токенизация «Llama 2: Open Foundation и точно настроенные модели чата» — используется lm-evaluation-harness от EleutherAI https://github.com/EleutherAI/lm-evaluation-harness/tree/polyglot *Использована версия Llama-2 Original 7B…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: beomi
Теги: llama, facebook, meta, llama-2, kollama, llama-2-ko, en, ko
Лайков: 176 | Загрузок: 1,075
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
