— На 20% меньше параметров: nyun-c2-llama3-56B содержит примерно на 20% меньше параметров, чем популярный Llama-3-70B. — Лучшая производительность: несмотря на гораздо меньшее количество параметров, эта модель имеет лучшие характеристики, чем Лама-3-70Б. — Точная настройка не требуется: эта модель не требует тонкой настройки, что демонстрирует потенциал наших методов оптимизации. Чтобы получить представление о конвейере и списке методов, используемых для оптимизации этих моделей, посетите наш репозиторий PruneGPT (https://github.com/nyunAI/PruneGPT). Мы приглашаем компании и организации, заинтересованные в объединении с нами усилий для выпуска большего количества таких вариантов с открытым исходным кодом, обращаться по адресу contact@nyunai.com.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: nyunai
Теги: llama, custom_code, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 290
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
