Модель NVIDIA DeepSeek V3-0324 FP4 — это квантованная версия модели DeepSeek V3-0324 от DeepSeek AI, которая представляет собой авторегрессионную языковую модель, использующую оптимизированную архитектуру преобразователя. Для получения дополнительной информации, пожалуйста, проверьте здесь. Модель NVIDIA DeepSeek V3-0324 FP4 квантуется с помощью оптимизатора модели TensorRT. Эта модель не принадлежит и не разработана NVIDIA. Эта модель была разработана и построена в соответствии с требованиями третьей стороны для этого приложения и варианта использования; см. ссылку на карту модели, отличной от NVIDIA (DeepSeek V3-0324). Разработчики, желающие взять с собой предварительно квантованные модели для развертывания в системах AI Agent, чат-ботах, системах RAG и других приложениях на базе AI. Huggingface 06.06.2025 через https://huggingface.co/nvidia/DeepSeek-R1-0528-FP4 Тип архитектуры: Transformers Сетевая архитектура: DeepSeek V3-0324 Типы входных данных: Формат(ы) текстового ввода: Строковые входные параметры: 1D (одномерные): Последовательности Другие свойства, связанные с входными данными: Длина контекста до 128 КБ Тип(ы) вывода: Текстовый вывод Формат: строка. Параметры вывода: 1D (одномерный): последовательности. Другие свойства, связанные с выводом: н/д. Совместимость поддерживаемой аппаратной микроархитектуры: * NVIDIA…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: nvidia
Теги: Model Optimizer, deepseek_v3, nvidia, ModelOpt, DeepSeekV3, quantized, FP4, conversational
Лайков: 17 | Загрузок: 37,871
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
