Atlantis 12B — это доработка Mistral-Nemo-2407-Instruct с целью сделать его более удобной для ролевой игры и повествования. Модель должна поддерживать контекст до 128 КБ, хотя реалистично в настройках RP я ожидаю, что она потеряет когерентность выше 24 КБ. Это очень ранняя стадия и совершенно новая настройка, поэтому я ожидаю, что с ней могут возникнуть проблемы. Пожалуйста, прочтите раздел «Использование», прежде чем сообщать о каких-либо проблемах, поскольку у Nemo есть некоторые особые требования к серверным модулям, форматам запросов и настройкам сэмплера. Мой сервер Discord — требуется Discord. Вкладка «Сообщество» — требует входа в систему HF. Тема SillyTavern Discord — должна быть на SillyTavern Discord. Discord DM для Invisietch. Благодаря вашим отзывам я улучшаю эти модели для будущих версий. FP16 Safetensors Статический GGUF iMatrix GGUF (спасибо mradermacher) 4BPW EXL2 (спасибо Statuo) 6BPW EXL2 (спасибо Hydrafig) 8BPW EXL2 (спасибо Statuo) Эта модель построена на основе модели Mistral Nemo-2407-Instruct и выпущена под лицензией Apache 2.0. Эта модель довольно неоднородна и может вызывать явные, тревожные или оскорбительные реакции. Используйте ответственно. Я не несу ответственности за использование вами этой модели. Если вы используете GGUF…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: invisietch
Теги: mistral, axolotl, qlora, not-for-all-audiences, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
