TheBloke/minotaur-15B-GGML - Каталог нейросетей
Генерация текста

TheBloke/minotaur-15B-GGML

Добавлено:
TheBloke/minotaur-15B-GGML

Чат и поддержка: мой новый сервер Discord Хотите внести свой вклад? Страница TheBloke на Patreon Эти файлы представляют собой файлы моделей в формате GGML для Minotaur 15B от OpenAccess AI Collective. Обратите внимание, что эти GGML несовместимы с llama.cpp или в настоящее время с text-generation-webui. Ниже приведен список инструментов, которые, как известно, работают с этими файлами моделей. 4-битные модели GPTQ для вывода графического процессора. 2, 3, 4, 5, 6 и 8-битные модели GGML для вывода ЦП. * Неквантованная модель fp16 в формате pytorch, для вывода графического процессора и для дальнейших преобразований. Подтверждено, что контекст 8K этой модели работает в KoboldCpp, если вы вручную установите максимальный контекст на 8K, отрегулировав текстовое поле над ползунком: !. В настоящее время неизвестно, совместим ли он с другими клиентами. Эти файлы несовместимы с text-generation-webui, llama.cpp или llama-cpp-python. В настоящее время их можно использовать с: KoboldCpp, мощным механизмом вывода на основе llama.cpp, с хорошим пользовательским интерфейсом: KoboldCpp Библиотекой Python ctransformers, включающей поддержку LangChain: ctransformers Веб-интерфейсом LoLLMS, использующим ctransformers: Веб-интерфейс LoLLMS llm ржавчины Пример двоичного файла starcoder`, поставляемый с ggml В качестве других вариантов…

Модальности:
Генерация текста

Области применения:
Генерация кода


Задача: Генерация текста
Автор: TheBloke
Теги: code
Лайков: 10  |  Загрузок: 0

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #code