Эта модель основана на Meta Llama-2-7B-Chat-HF и точно настроена с помощью некоторых статей Индонезийской Википедии, которые я очистил ранее. Используя QLoRA (QLora: эффективная точная настройка квантованных LLM), Merak-7B может работать с 16 ГБ видеопамяти. Merak-7B, и все его производные лицензируются по лицензии Creative Commons-By Attribution-Share Alike-Non Commercial (CC-BY-SA-NC 4.0). Merak-7B расширяет возможности энтузиастов искусственного интеллекта и исследователей. Большое спасибо всем моим друзьям и сообществам, которые помогли создать нашу первую модель. Не стесняйтесь спрашивать меня о модели и делиться новостями в социальных сетях. GGUF — это новый формат, представленный командой llama.cpp 21 августа 2023 года. Это замена GGML, который больше не поддерживается llama.cpp. Вот неполный список клиентов и библиотек, которые, как известно, поддерживают GGUF: llama.cpp. Исходный проект для GGUF. Предлагает CLI и опцию сервера. text-generation-webui, наиболее широко используемый веб-интерфейс со множеством функций и мощных расширений. Поддерживает ускорение графического процессора. KoboldCpp — полнофункциональный веб-интерфейс с ускорением графического процессора на всех платформах и архитектурах графического процессора. Особенно хорош для рассказывания историй. LM Studio, простой в использовании и мощный локальный графический интерфейс для…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Ichsan2895
Теги: gguf, id, en, endpoints_compatible
Лайков: 4 | Загрузок: 192
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
