phi-2-int4-inc
Эта модель представляет собой модель int4 с group_size128 и сим-квантованием microsoft/phi-2, созданным с помощью intel/auto-round. Если вам нужен...
Метка: intel/auto-round
Qwen2-7B-int4-inc
Эта модель представляет собой модель автоматического округления int4 с размером группы 128 Qwen/Qwen2-7B, созданную с помощью Intel/автоокругления. Если...