Метка: vllm - Страница 4 - Каталог нейросетей

Метка: vllm

Генерация текста

Inferact/MiniMax-M3-EAGLE3-GQA

Inferact/MiniMax-M3-EAGLE3-GQA — это черновая модель EAGLE3 с групповым запросом и вниманием (GQA) для ускорения вывода MiniMax-M3, обслуживаемая с...

Генерация текста

sakamakismile/llm-jp-4-32b-a3b-thinking-NVFP4

Квантование NVFP4 (W4A4) модели мышления (рассуждения) llm-jp/llm-jp-4-32b-a3b-thinking — японской модели мышления (рассуждения) Mixture-of-Experts с 32B-A3B битами. Квантовано с...