Kimi-Linear-48B-A3B-Instruct-GGUF
Quantized GGUF versions of moonshotai/Kimi-Linear-48B-A3B-Instruct Works with llama.cpp · Ollama · LM Studio · Open WebUI · Jan...
Quantized GGUF versions of moonshotai/Kimi-Linear-48B-A3B-Instruct Works with llama.cpp · Ollama · LM Studio · Open WebUI · Jan...
This repository contains the official 4-bit quantized version of the Kimi-Linear-48B model using the SINQ (Sinkhorn-Normalized Quantization) method...
This model mlx-community/Kimi-Linear-48B-A3B-Instruct-6bit was converted to MLX format from moonshotai/Kimi-Linear-48B-A3B-Instruct using mlx-lm version 0.28.4. Модальности:Генерация текста Области применения:Диалог...
Kimi Linear: An Expressive, Efficient Attention Architecture (a) On MMLU-Pro (4k context length), Kimi Linear achieves 51.0 performance...
Эта модель mlx-community/Kimi-Linear-48B-A3B-Instruct-4bit была конвертирована в формат MLX из Moonshotai/Kimi-Linear-48B-A3B-Instruct с использованием mlx-lm версии 0.28.4. Модальности:Генерация текста Области...
𓌳 REAP𓌳 Эксперты: почему обрезка преобладает при однократном сжатии MoE Представляем Kimi-Linear-REAP-35B-A3B-Instruct, сжатый вариант Kimi-Linear-48B-A3B-Instruct с эффективным использованием...
Kimi Linear: выразительная и эффективная архитектура внимания (a) На MMLU-Pro (длина контекста 4 КБ) Kimi Linear достигает производительности...
Kimi Linear: выразительная и эффективная архитектура внимания (a) На MMLU-Pro (длина контекста 4 КБ) Kimi Linear достигает производительности...