Эта модель основана на Mistral-7B-OpenOrca и доработана некоторыми статьями Индонезийской Википедии, которые я почистил ранее. Используя QLoRA (QLora: эффективная точная настройка квантованных LLM), Merak-7B может работать с 16 ГБ видеопамяти. Merak-7B, и все его производные лицензируются по лицензии Creative Commons-By Attribution-Share Alike-Non Commercial (CC-BY-SA-NC 4.0). Merak-7B расширяет возможности энтузиастов искусственного интеллекта и исследователей. Большое спасибо всем моим друзьям и сообществам, которые помогли создать нашу первую модель. Спасибо Axolotl за отличный инструмент тонкой настройки, призванный упростить тонкую настройку различных моделей ИИ. Не стесняйтесь спрашивать меня о модели и делиться новостями в социальных сетях. GGUF — это новый формат, представленный командой llama.cpp 21 августа 2023 года. Это замена GGML, который больше не поддерживается llama.cpp. Вот неполный список клиентов и библиотек, которые, как известно, поддерживают GGUF: llama.cpp. Исходный проект для GGUF. Предлагает CLI и опцию сервера. text-generation-webui, наиболее широко используемый веб-интерфейс со множеством функций и мощных расширений. Поддерживает ускорение графического процессора. KoboldCpp, полнофункциональный веб-интерфейс с ускорением графического процессора на всех платформах…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Ichsan2895
Теги: gguf, id, en, endpoints_compatible
Лайков: 4 | Загрузок: 285
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
