lmstudio-community/Phi-3.1-mini-128k-instruct-GGUF - Каталог нейросетей
Генерация текста

lmstudio-community/Phi-3.1-mini-128k-instruct-GGUF

Добавлено:
lmstudio-community/Phi-3.1-mini-128k-instruct-GGUF

👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в Discord. Создатель модели: Microsoft Исходная модель: Phi-3-mini-128k-instruct Квантование GGUF: предоставлено bartowski на основе llama.cpp версии b3460. Хотя в версии Microsoft имя было оставлено как Phi-3, это НЕ та же модель, что и раньше! Он имеет значительные улучшения по ряду тестов, поэтому для ясности мы переименовали его в Phi-3.1. В этом обновлении использовались дополнительные данные после обучения, которые улучшили выполнение инструкций, структурирование вывода, многоходовые разговоры, явную поддержку тегов и значительно улучшили возможности рассуждения. В этой модели основное внимание уделяется здравому смыслу, пониманию языка, математике, коду, длинному контексту и логическим рассуждениям. Под капотом модель увидит подсказку следующего формата: Phi-3.1 Mini-4K-Instruct имеет параметры 3,8B и представляет собой плотную модель Transformer, предназначенную только для декодера. Модель доработана с помощью контролируемой тонкой настройки (SFT) и прямой оптимизации предпочтений (DPO), чтобы обеспечить соответствие человеческим предпочтениям и рекомендациям по безопасности. Длина контекста: 128 тыс. токенов через Microsoft…

Модальности:
Генерация текста

Области применения:
Генерация кода Диалог / чат Следование инструкциям


Задача: Генерация текста
Автор: lmstudio-community
Теги: gguf, nlp, code, en, endpoints_compatible, imatrix, conversational
Лайков: 7  |  Загрузок: 1,735

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.