phixtral-4x2_8-gates-poc
phixtral-4×28-gates-poc — это phixtral-4×28 с точно настроенными воротами для лучшего выбора эксперта и нарушения симметрии. В качестве POC...
Метка: Yhyu13/phi-2-sft-dpo-gpt4_en-ep1
phixtral-4x2_8-GPTQ
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
phixtral-4x2_8
phixtral-4x2_8 — это первая смесь экспертов (MoE), созданная на основе четырех моделей microsoft/phi-2, вдохновленная архитектурой mistralai/Mixtral-8x7B-v0.1. Он работает...