Модель NVIDIA DeepSeek R1 FP4 — это квантованная версия модели DeepSeek R1 компании DeepSeek AI, которая представляет собой авторегрессионную языковую модель, использующую оптимизированную архитектуру преобразователя. Для получения дополнительной информации, пожалуйста, проверьте здесь. Модель NVIDIA DeepSeek R1 FP4 квантуется с помощью оптимизатора модели TensorRT. Эта модель не принадлежит и не разработана NVIDIA. Эта модель была разработана и построена в соответствии с требованиями третьей стороны для этого приложения и варианта использования; см. ссылку на карту модели, отличной от NVIDIA (DeepSeek R1). Тип архитектуры: Трансформаторы Сетевая архитектура: DeepSeek R1 Тип(ы) ввода: Формат(ы) текстового ввода: Строка Входные параметры: Одномерный (1D): Последовательности Другие свойства, связанные с вводом: Длина контекста до 128 КБ Тип(ы) вывода: Формат вывода текста: Строка Параметры вывода: 1D: Последовательности Другие свойства, связанные с выводом: Н/Д Совместимость микроархитектуры поддерживаемого оборудования: * Набор калибровочных данных NVIDIA Blackwell: cnndailymail Метод сбора данных: Автоматический. Способ маркировки: Неизвестен. Набор оценочных данных: MMLU Метод сбора данных: Неизвестно. ** Способ маркировки: нет данных. Эта модель была получена путем квантования весов и активаций DeepSeek R1 для…
Модальности:
Генерация текста
Области применения:
Диалог / чат Логика и рассуждение
Задача: Генерация текста
Автор: nvidia
Теги: deepseek_v3, conversational, custom_code, 8-bit
Лайков: 272 | Загрузок: 39,477
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.