IntelLabs/sqft-phi-3.5-mini-instruct-base-gptq

— Source Model: microsoft/Phi-3.5-mini-instruct — Quantization: GPTQ-INT4 Repository: https://github.com/IntelLabs/Hardware-Aware-Automated-Machine-Learning/tree/main/SQFT Paper: — SQFT: Low-cost Model Adaptation in Low-precision Sparse Foundation Models — Low-Rank Adapters Meet Neural Architecture Search for LLM Compression

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям

Задача: Генерация текста
Автор: IntelLabs
Теги: phi3, conversational, custom_code, en, text-generation-inference, endpoints_compatible, 4-bit, gptq
Лайков: 3  |  Загрузок: 18

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.