DeepSeek-R1-Distill-Llama-70B-FP8-dynamic
— Архитектура модели: LlamaForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...
Метка: fp8
DeepSeek-R1-Distill-Qwen-32B-FP8-dynamic
— Архитектура модели: Qwen2ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...
pixtral-12b-FP8-dynamic
— Архитектура модели: Pixtral (Llava) — Входные данные: текст/изображение — Выходные данные: текст — Оптимизация модели: — Весовое...
Meta-Llama-3.1-8B-FP8
— Архитектура модели: Meta-Llama-3.1 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
Meta-Llama-3-8B-Instruct-FP8-KV
Meta-Llama-3-8B-Instruct квантован до весов и активаций FP8 с использованием потензорного квантования, готов к выводу с vLLM >= 0,5.0....
DeepSeek-V3.2
Мы представляем DeepSeek-V3.2, модель, которая сочетает в себе высокую вычислительную эффективность с превосходными рассуждениями и производительностью агентов. Наш...
Llama-3.2-90B-Vision-Instruct-FP8-dynamic
— Архитектура модели: Meta-Llama-3.2 — Входные данные: текст/изображение — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
MiniMax-SLURPY
Математически уникальная смесь MiniMax-M2.5 и MiniMax-M2.7 — не родительская, а полностью собственная модель. SLURPY унаследовал стиль кодирования M2.5,...
LongCat-Flash-Thinking-2601-FP8
Мы представляем обновленную версию LongCat-Flash-Thinking-2601, мощной и эффективной модели большого рассуждения (LRM) с 560 миллиардами общих параметров, построенной...
MiniMax-M2.1
> [!NOTE] > Включает исправления шаблона чата Unsloth! Для llama.cpp используйте —jinja > Unsloth Dynamic 2.0 обеспечивает превосходную...