Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Прежде всего, я хотел поблагодарить всех на дискорд-сервере KoboldAI, которые помогали мне в тестировании и экспериментах. Ничего из этого было бы невозможно без помощи следующих людей. — Эйзенштейну за их модифицированную версию LocalAIME для лучшей работы с KoboldCPP и измененные настройки сэмплера для моделей Qwen/Deepseek, а также за то, что он выполнил половину моего тестирования на своей машине. — Twistedshadows за то, что одолжили мне несколько часов своего ранпода для тестирования. — Хенки, а также за то, что он также одолжил мне часть своих часов Runpod и помог мне устранить некоторые проблемы с запуском KCPP для работы с LocalAIME. — У всех остальных на дискорд-сервере KoboldAI было немало желающих помочь мне советом, устранением неполадок или предложить мне свои машины или часы Runpod, чтобы помочь с тестированием, если вышеперечисленное не дошло до этого в первую очередь. — EntropyMagnets на Reddit за создание и распространение своего инструмента LocalAIME. — Большое спасибо https://huggingface.co/none-user за проведение этих тестов с более высокой точностью https://huggingface.co/lemon07r/Qwen3-R1-SLERP-Q3T-8B/discussions/2 Я также хотел бы…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lemon07r
Теги: qwen3, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
