LLaMA-MoE-v1-3_0B-2_16
❤️ В этом репозитории находится модель LLaMA-MoE-v1-3.0B (2/16), которая активирует 2 из 16 экспертов (параметры 3.0B). Эта модель...
Метка: llama_moe
LLaMA-MoE-v1-3_5B-2_8
❤️ В этом репозитории находится модель LLaMA-MoE-v1-3.5B (2/8), которая активирует 2 из 8 экспертов (параметры 3.5B). Эта модель...
LLaMA-MoE-v1-3_5B-4_16
❤️ В этом репозитории находится модель LLaMA-MoE-v1-3.5B (4/16), которая активирует 4 из 16 экспертов (параметры 3,5B). Эта модель...