DeepSeek-R1-0528-GPTQ-Int4-Int8Mix-Compact
Этот репозиторий предоставляет модель Int4 + выборочно-Int8 GPTQ DeepSeek-R1-0528: только слои, которые очень чувствительны к квантованию, остаются в...
Этот репозиторий предоставляет модель Int4 + выборочно-Int8 GPTQ DeepSeek-R1-0528: только слои, которые очень чувствительны к квантованию, остаются в...
— Доработайте Mistral v0.3 (7B)) бесплатно с помощью нашего блокнота Google Colab здесь — Conversational.ipynb)! — Прочтите наш...
Идеально подходит для работы в системе с двумя графическими процессорами, такой как 2×3090, с vLLM или SGlang: vllm...
— Архитектура модели: трансформаторы с RoPE, SwiGLU, RMSNorm и вниманием QKV смещением — Входные данные: текст — Выходные...
Zero-Mistral-Small — это улучшенная версия mistralai/Mistral-Small-24B-Instruct-2501, адаптированная в первую очередь для русского и английского языков. Обучение включало этап...
CTRL-32B — это критический LLM, доработанный из Qwen2.5-Coder-32B-Instruct. — Страница проекта: https://critic-rl.github.io/ — Документ: https://arxiv.org/abs/2502.03492 — Код: https://github.com/HKUNLP/critic-rl...
— Архитектура модели: Qwen2ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...
— Архитектура модели: Qwen2ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
— Архитектура модели: LlamaForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...
— Архитектура модели: Meta-Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...