MobileLLaMA-2.7B-Base — Трансформер с 2,7 млрд параметров. Мы уменьшаем масштаб LLaMA, чтобы облегчить развертывание готового решения. Чтобы обеспечить воспроизводимость нашей работы, все модели обучаются только на токенах 1.3T только из набора данных RedPajama v1. Это приносит пользу дальнейшим исследованиям, позволяя проводить контролируемые эксперименты. Мы тщательно оцениваем наши модели по двум стандартным критериям естественного языка: пониманию языка и здравому смыслу соответственно. Результаты экспериментов показывают, что наша MobileLLaMA находится на одном уровне с новейшими моделями с открытым исходным кодом. MobileLLaMA 2.7B также демонстрирует конкурентоспособную производительность по сравнению с INCITE 3B (V1) и OpenLLaMA 3B (V1), при этом примерно на 40 % быстрее, чем OpenLLaMA 3B на процессоре Snapdragon 888, как показано в нашей статье, Таблица 5. — Репозиторий: https://github.com/Meituan-AutoML/MobileVLM — Документ: https://arxiv.org/abs/2312.16886 Грузы моделей можно загрузить с помощью трансформеров Hugging Face. Примеры можно найти на Github. Подробности обучения см. в нашем документе в разделе 4.1: MobileVLM: быстрый, надежный и открытый языковой помощник для мобильных устройств.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: mtgv
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 23
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
