Официальная библиотека моделей формата GGUF для использования в местном приложении чата с искусственным интеллектом Backyard AI. — Создатель: FallenMerick — Оригинал: Chunky Lemon Cookie 11B — Дата создания: 23 мая 2024 г. — Обученный контекст: 8192 жетона — Описание: Четвертая серия моделей, ориентированных на ролевые игры, из серии Lemon Cookie, опубликованной FallenMerick. Chunky Lemon Cookie основывается на более ранних работах, чтобы обеспечить более насыщенный опыт и высокий эмоциональный интеллект. GGUF — это формат большой языковой модели (LLM), который можно разделить между процессором и графическим процессором. GGUF совместимы с приложениями на основе llama.cpp, такими как Backyard AI. В то время как для других форматов моделей требуются более производительные графические процессоры с большим количеством видеопамяти, GGUF можно эффективно запускать на более широком спектре оборудования. Модели GGUF квантуются для уменьшения использования ресурсов с компромиссом в виде снижения когерентности при более низком квантовании. Квантование снижает точность весов модели за счет изменения количества битов, используемых для каждого веса. — Бесплатное локальное приложение для чата с искусственным интеллектом. — Установка в один клик на Mac и ПК. — Автоматически использовать графический процессор для достижения максимальной скорости. — Встроенный менеджер моделей. — Высококачественный центр персонажей. — Привязка настольного компьютера к мобильному устройству без необходимости настройки. Backyard AI позволяет легко начать…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: backyardai
Теги: gguf, mergekit, merge, mistral, roleplay, en, endpoints_compatible
Лайков: 4 | Загрузок: 1,100
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
