При закреплении вложений к процессору он будет хорошо работать на графическом процессоре емкостью 12 ГБ.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: onnx-community
Теги: transformers.js, onnx, gpt_oss, conversational, mxfp4
Лайков: 11 | Загрузок: 155
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Модель v2, обученная с нуля на 112 ГБ лондонских текстов 1800–1875 годов с использованием модели повседневного языка на...
Hercules-2.5-Mistral-7B — это усовершенствованная языковая модель, созданная на основе Mistralai/Mistral-7B-v0.1. Он специально разработан, чтобы добиться успеха в выполнении...
> [!NOTE] > Этот репозиторий содержит модели, преобразованные в формат GGUF с использованием различных квантований из базовой модели...
pip3 install fschat git clone https://github.com/huggingface/transformers.git cd Transformers git checkout 41a2f3529c6b56866c317031375ffd3e7b8bea01 pip install . python3 -m fastchat.serve.cli —имя-модели...
