nyqo
Nyqo n1 — это компактная языковая модель общего назначения с параметрами 497M, построенная на LiquidAI/LFM2.5-350M. Он расширяет базовую...
Метка: block expansion
Mistral-7B-Instruct-v0.2-expanded
Этот метод использует метод сквозной передачи mergekit для расширения блоков в модели «mistralai/Mistral-7B-Instruct-v0.2». Для каждого пятого слоя добавляется...