.image-container { позиция: относительная; отображение: встроенный блок; } .image-container img { display: block; радиус границы: 10 пикселей; box-shadow: 0 0 1px rgba(0, 0, 0, 0.3); } .image-container::before {content: «»; позиция: абсолютная; верх: 0 пикселей; слева: 20 пикселей; ширина: расчет (100 % – 40 пикселей); высота: расчет (100%); фоновое изображение: url(«https://cdn-uploads.huggingface.co/production/uploads/64f5e51289c121cb864ba464/O0FlWv4L8ZnehOGETw7qt.png»); размер фона: обложка; фильтр: размытие (10 пикселей); z-индекс: -1; } Похоже, что 1.71 koboldcpp пока не может запускать GGUF моделей llama-3.1 MoE, или, возможно, я просто тупой и что-то напутал. Если у кого-то возникла подобная проблема — запустите модель непосредственно из llama.cpp, вот простой графический интерфейс с открытым исходным кодом (Windows), который вы можете использовать, если консоль ваш злейший враг! aifeifei798/DarkIdol-Llama-3.1-8B-Instruct-1.0-Без цензуры
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: xxx777xxxASD
Теги: mixtral, moe, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
