Официальная библиотека моделей формата GGUF для использования в местном приложении чата с искусственным интеллектом Backyard AI. — Создатель: FallenMerick — Оригинал: Smart Lemon Cookie 7B — Дата создания: 30 апреля 2024 г. — Обученный контекст: 32768 жетонов — Описание: Не прошедшая цензуру модель ролевой игры от FallenMerick с отличными способностями к рассуждению и отслеживанию контекста. Он основан на модели Multi-Verse и объединяет Silicon Maid и Kunoichi для сильных ролевых способностей, а также LemonadeRP для навыков написания историй. GGUF — это формат большой языковой модели (LLM), который можно разделить между процессором и графическим процессором. GGUF совместимы с приложениями на основе llama.cpp, такими как Backyard AI. В то время как для других форматов моделей требуются более производительные графические процессоры с большим количеством видеопамяти, GGUF можно эффективно запускать на более широком спектре оборудования. Модели GGUF квантуются для уменьшения использования ресурсов с компромиссом в виде снижения когерентности при более низком квантовании. Квантование снижает точность весов модели за счет изменения количества битов, используемых для каждого веса. — Бесплатное локальное приложение для чата с искусственным интеллектом. — Установка в один клик на Mac и ПК. — Автоматически использовать графический процессор для достижения максимальной скорости. — Встроенный менеджер моделей. — Высококачественный центр персонажей. — Привязка настольного компьютера к мобильному устройству без настройки.…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: backyardai
Теги: gguf, mergekit, merge, mistral, endpoints_compatible, conversational
Лайков: 8 | Загрузок: 153
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
