gemma-2-27b-it-IMat-GGUF
Исходная модель: google/gemma-2-27b-it Исходный тип dtype: BF16 (bfloat16) Квантизация: llama.cpp b3790 Набор данных IMatrix: здесь — Файлы —...
Исходная модель: google/gemma-2-27b-it Исходный тип dtype: BF16 (bfloat16) Квантизация: llama.cpp b3790 Набор данных IMatrix: здесь — Файлы —...
Иматричное квантование Llama.cpp для mistralai/Mistral-Large-Instruct-2407 Исходная модель: mistralai/Mistral-Large-Instruct-2407 Исходный тип dtype: BF16 (bfloat16) Квантизация: llama.cpp b3452 Набор данных...