Квантованные файлы модели GGUF для phi-2-sft-alpacagpt4en-ep1 из Yhyu13. Это объединенная модель для LoRA https://huggingface.co/Yhyu13/phi-2-sft-alpacagpt4en-ep1-lora. Из этого https://huggingface.co/microsoft/phi-2/discussions/38. Поскольку phi2 требует удаленного кода, который не будет использоваться в таблице лидеров HF open llm. принять на данный момент. Вот результат, оцененный Chatpgpt https://github.com/tatsu-lab/alpaca_eval/pull/183 Это может стать важной вехой для небольших моделей, у нас наконец-то есть одна открытая модель, которую может запускать каждый, которая превосходит GPT3.5!
Модальности:
Генерация текста
Задача: Генерация текста
Автор: afrideva
Теги: gguf, ggml, quantized, q2_k, q3_k_m, q4_k_m, q5_k_m, q6_k
Лайков: 4 | Загрузок: 296
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
