Официальная библиотека моделей формата GGUF для использования в местном приложении чата с искусственным интеллектом Backyard AI. — Создатель: TeeZee — Оригинал: DarkSapling V2.0 7B — Дата создания: 12 февраля 2024 г. — Обученный контекст: 32768 жетонов — Описание: Связи DARE объединяют четыре сильные ролевые модели с хорошим выполнением инструкций, повествованием и эмоциональной глубиной. Очень без цензуры; преуспевает в NSFW. Может создавать мрачные сценарии. GGUF — это формат большой языковой модели (LLM), который можно разделить между процессором и графическим процессором. GGUF совместимы с приложениями на основе llama.cpp, такими как Backyard AI. В то время как для других форматов моделей требуются более производительные графические процессоры с большим количеством видеопамяти, GGUF можно эффективно запускать на более широком спектре оборудования. Модели GGUF квантуются для уменьшения использования ресурсов с компромиссом в виде снижения когерентности при более низком квантовании. Квантование снижает точность весов модели за счет изменения количества битов, используемых для каждого веса. — Бесплатное локальное приложение для чата с искусственным интеллектом. — Установка в один клик на Mac и ПК. — Автоматически использовать графический процессор для достижения максимальной скорости. — Встроенный менеджер моделей. — Высококачественный центр персонажей. — Привязка настольного компьютера к мобильному устройству без необходимости настройки. Backyard AI позволяет легко начать общаться с ИИ, используя свои собственные…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: backyardai
Теги: gguf, mistral, not-for-all-audiences, merge, en
Лайков: 4 | Загрузок: 341
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
