QuantTrio/DeepSeek-V3.2-AWQ - Каталог нейросетей
Генерация текста

QuantTrio/DeepSeek-V3.2-AWQ

Добавлено:
QuantTrio/DeepSeek-V3.2-AWQ

По состоянию на 2 декабря 2025 г. убедитесь, что в вашей системе установлен cuda12.8. Затем создайте новую среду Python (например, python3.12 venv) и запустите: Мы представляем DeepSeek-V3.2, модель, которая сочетает в себе высокую вычислительную эффективность с превосходными рассуждениями и производительностью агента. Наш подход основан на трех ключевых технических достижениях: 1. DeepSeek Sparse Attention (DSA). Мы представляем DSA, эффективный механизм внимания, который существенно снижает сложность вычислений при сохранении производительности модели, специально оптимизированный для сценариев с длинным контекстом. 2. Масштабируемая платформа обучения с подкреплением. Благодаря внедрению надежного протокола RL и масштабированию вычислений после обучения DeepSeek-V3.2 работает сравнимо с GPT-5. Примечательно, что наш высокопроизводительный вариант DeepSeek-V3.2-Speciale превосходит GPT-5 и демонстрирует навыки рассуждения на уровне Gemini-3.0-Pro. — Достижения: 🥇Золотая медаль на Международной математической олимпиаде (IMO) и Международной олимпиаде по информатике (IOI) 2025 года. 3. Крупномасштабный конвейер синтеза агентских задач. Чтобы интегрировать рассуждения в сценарии использования инструментов, мы разработали новый конвейер синтеза, который систематически генерирует обучающие данные в большом масштабе. Этот…

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: QuantTrio
Теги: deepseek_v32, vLLM, AWQ, conversational, endpoints_compatible, 4-bit, awq
Лайков: 11  |  Загрузок: 590,306

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.