mpt-7b-chat-pruned50-quant-ds
Модель MPT 7b, согласованная с чатом, сокращена до 50 % и квантована с использованием SparseGPT для вывода с помощью...
Метка: deepsparse
SOLAR-10.7B-Instruct-v1.0-pruned50-quant-ds
Этот репозиторий содержит файлы моделей для SOLAR-10.7B-Instruct-v1.0, оптимизированные для DeepSparse, среды выполнения вывода ЦП для разреженных моделей. Эта...
Nous-Hermes-2-SOLAR-10.7B-pruned50-quant-ds
Этот репозиторий содержит файлы моделей для Nous Hermes 2 — Solar 10.7B, оптимизированные для DeepSparse, среды выполнения вывода...
Llama2-7b-chat-pruned50-quant-ds
Этот репозиторий содержит файлы моделей для Llama-2-7b-chat-hf, оптимизированные для DeepSparse, среды выполнения вывода ЦП для разреженных моделей. Эта...