Это 103B откровенное слияние sophosympatheia/Midnight-Miqu-70B-v1.0 с самим собой. Подробную информацию и инструкции по использованию см. на карточке модели. Эта модель основана на Miqu, поэтому она способна работать с контекстом 32 КБ. Если вам хочется выразить благодарность пожертвованием, я использую Ko-Fi GGUF Dracones/Midnight-Miqu-103B-v1.0-GGUF EXL2 Dracones/Midnight-Miqu-103B-v1.0exl22.4bpw Dracones/Midnight-Miqu-103B-v1.0exl23.0bpw Dracones/Midnight-Miqu-103B-v1.0exl23.5bpw Dracones/Midnight-Miqu-103B-v1.0exl23.75bpw Dracones/Midnight-Miqu-103B-v1.0exl24.0bpw Dracones/Midnight-Miqu-103B-v1.0exl24.25bpw Dracones/Midnight-Miqu-103B-v1.0exl24.5bpw Dracones/Midnight-Miqu-103B-v1.0exl25.0bpw Если вы не видите то, что ищете, попробуйте выполнить поиск Hugging Face. Могут быть доступны более новые кванты, чем те, которые я здесь задокументировал. 152334H/miqu-1-70b-sf был основан на утекшей версии одной из моделей Mistral. Все модели, производные от miqu, включая это слияние, подходят только для личного использования. Mistral до сих пор относился к этому спокойно, но вы должны знать, что, загружая это объединение, вы принимаете на себя любой юридический риск, связанный с приобретением и использованием модели, основанной на утекших весах. Это слияние включает в себя…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: sophosympatheia
Теги: llama, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 98
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
