— Создатель модели: Mistral AI_ — Исходная модель: Mistral 7B Instruct v0.2 — Набор данных: OWCA Существует множество моделей с открытым исходным кодом, которые обеспечивают отличную производительность на английском языке, но ни одна из них на польском меня не удовлетворила. В качестве базовой модели я выбрал Mistral, поскольку он предлагает потрясающую производительность при очень небольшом размере. Это моя первая доработанная модель, она работает не очень хорошо, это скорее проверка концепции и она еще не готова к коммерческому продукту. Сравнения можно найти внизу страницы. Точная настройка, слияние и квантование выполнялись с использованием моего собственного оборудования. У меня есть идеи, как его улучшить дальше, но с учетом моих ограниченных ресурсов это занимает много времени. Файлы Safetensors расположены в каталоге Safetensors и должны обеспечивать наилучшее качество. Невозможно показать разницу с помощью одной подсказки, но это может помочь вам решить, что проверить самостоятельно. GGUF — это новый формат, представленный командой llama.cpp 21 августа 2023 года. Это замена GGML, который больше не поддерживается llama.cpp. Вот неполный список клиентов и библиотек, которые, как известно, поддерживают GGUF: — llama.cpp. Исходный проект для GGUF. Предлагает CLI и опцию сервера. — генерация текста-webui, самый…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: JonaszPotoniec
Теги: gguf, finetuned, pl, conversational
Лайков: 4 | Загрузок: 52
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
