— Введение — Выпущенные веса — Результаты тестирования — Общий домен — Результаты модели — Вывод и развертывание — Установка зависимостей — Уведомление — Вывод кода Python — Демонстрация вывода базовой модели — Точная настройка модели — Установка зависимостей — Обучение — Сообщество и экосистема — Отказ от ответственности, лицензия и цитирование — Отказ от ответственности — Лицензия — Благодарности — Цитирование Мы заново изобретаем модель большого языка (LLM). Это официальная реализация TransNormerLLM в [ссылка](https://arxiv.org/pdf/2307.14995.pdf. Наши открытые веса TransNormerLLM теперь доступны частным лицам, авторам, исследователям и предприятиям всех размеров, чтобы они могли экспериментировать, внедрять инновации и ответственно масштабировать свои идеи. Наш выпуск содержит реализацию модели TransNormerLLM, веса с открытым исходным кодом и исходный код для контролируемой точной настройки. (SFT) Мы покажем примеры того, как загружать модели TransNormerLLM, запускать SFT и делать выводы. TransNormerLLM — это первый линейный LLM, основанный на внимании, который превосходит традиционные модели softmax, основанные на внимании, с точки зрения точности и эффективности. Он был обучен на высококачественном корпусе, содержащем до 1,4 триллиона токенов.…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: OpenNLPLab
Теги: TransNormerLLM, custom_code, en, zh
Лайков: 10 | Загрузок: 978
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
