— Source revision: effaeda477c041c107d5a3d8c599cb5d6c5878ef — Architecture: Cohere2MoeForCausalLM / cohere2moe — Quantization: MLX mxfp4`, group size 32, 4 bits — Artifact size: 17.59 GB, 4 safetensor shards — Verification: conversion completed, headers readable, smoke test passed — Benchmark on M2 Max 32 GB: 218.449 prompt tok/s, 42.385 generation tok/s, 17.788 GB peak memory Requires pinned experimental MLX-LM cohere2moe` support until it lands in a release:
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: bsisduck
Теги: mlx, cohere2_moe, mlx-lm, mxfp4, code, agent, conversational, en
Лайков: 3 | Загрузок: 139
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
