Модели 7B, выпущенные на этот раз компанией Hunyuan: Hunyuan-7B-Pretrain-0124 и Hunyuan-7B-Instruct-0124, используют лучшее распределение данных и обучение, имеют высокую производительность и достигли хорошего баланса между вычислениями и производительностью. Он выделяется среди многих крупномасштабных языковых моделей и на данный момент является одной из самых сильных китайских моделей 7B Dense. — Расширены возможности длинного текста до 256 КБ и используется внимание к групповым запросам (GQA). Этот выпуск с открытым исходным кодом предлагает два варианта бэкэнда вывода, адаптированных для модели Hunyuan-7B: популярный бэкенд vLLM и бэкенд TensorRT-LLM. В этом выпуске мы изначально открываем исходный код решения vLLM и планируем выпустить решение TRT-LLM в ближайшем будущем. — Модель с открытым исходным кодом Hunyuan-7B полностью совместима с форматом Hugging Face, что позволяет исследователям и разработчикам выполнять точную настройку модели с использованием платформы HF-DeepSpeed. Подробнее: Tencent-Hunyuan-Large 。 2025.1.24 У нас есть открытые исходные коды Hunyuan-7B-Pretrain-0124, Hunyuan-7B-Instruct-0124** на Hugging Face. Вы можете обратиться к содержимому Tencent-Hunyuan-Large, чтобы быстро начать работу. Код обучения и вывода может использовать версию, представленную в этом github…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: tencent
Теги: hunyuan, conversational, custom_code, en
Лайков: 11 | Загрузок: 984
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
