4-битный квантованный вес GGUF инструкции phi-3-mini-4k. Совместимость с Mlx. Официальная модель: https://huggingface.co/microsoft/Phi-3-mini-4k-instruct-gguf (не поддерживается mlx). Обратите внимание, что официальная модель phi-3-mini-4k-instruct.gguf имеет архитектуру llama-2, как указано в документе (https://huggingface.co/papers/2404.14219).
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Jaward
Теги: gguf, phi3, custom_code, endpoints_compatible, conversational
Лайков: 4 | Загрузок: 722
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.