HyperNova 60B — это большая языковая модель, разработанная Multiverse Computing с упором на эффективность вычислений и удобство развертывания. Модель предназначена для обеспечения надежных возможностей рассуждения и генерации текста, одновременно значительно снижая требования к вычислительным ресурсам и памяти по сравнению с обычными крупномасштабными языковыми моделями. HyperNova 60B предназначена для реальных сценариев развертывания, где стоимость, задержка и ограничения инфраструктуры имеют решающее значение, обеспечивая высокопроизводительный вывод без необходимости использования аппаратного обеспечения передового масштаба. 59B параметров из 4,8B активных параметров. Квантование MXFP4. Настраиваемая трудоемкость рассуждения (низкая, средняя, высокая). Использование графического процессора менее 40 ГБ. Примеры вывода см. на карте базовой модели *gpt-oss-120b*. HyperNova 60B была оценена и сравнена с другими моделями SoTA по общим критериям с использованием Lighteval>=0,12,0 в соответствии с методологией сравнительного анализа искусственного интеллекта. Показанные результаты относятся к рассуждению = средний**. HyperNova 60B — это универсальная модель рассуждений и разговорной речи, предназначенная для использования на английском языке и языках программирования. Он также поддерживает несколько языков, отличных от английского, включая немецкий,…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MultiverseComputingCAI
Теги: gpt_oss, conversational, endpoints_compatible, 8-bit, mxfp4
Лайков: 60 | Загрузок: 324
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
