Метка: vllm - Страница 13 - Каталог нейросетей

Метка: vllm

Генерация текста

coder3101/gpt-oss-20b-heretic

Вы можете использовать gpt-oss-120b и gpt-oss-20b с трансформерами. Если вы используете шаблон чата Трансформеры, он автоматически применит формат...

Генерация текста

mratsim/Behemoth-X-123B-v2-NVFP4

Этот репозиторий содержит Behemoth-X-123B-v2, квантованный с помощью NVFP4, 4-разрядного сжатия, подходящего для максимальной производительности на графических процессорах серии...