— Это квантованная версия microsoft/Phi-3-mini-128k-instruct. Phi-3-Mini-128K-Instruct — это легкая современная открытая модель с 3,8 миллиардами параметров, обученная с использованием наборов данных Phi-3. Этот набор данных включает в себя как синтетические данные, так и отфильтрованные общедоступные данные веб-сайтов с упором на высококачественные и обоснованные свойства. Модель принадлежит к семейству Phi-3 с версией Mini в двух вариантах: 4K и 128K, что соответствует длине контекста (в токенах), которую она может поддерживать. После первоначального обучения модель прошла процесс постобучения, который включал контролируемую точную настройку и прямую оптимизацию предпочтений, чтобы повысить ее способность следовать инструкциям и соблюдать меры безопасности. При сравнении с тестами, проверяющими здравый смысл, понимание языка, математику, программирование, долгосрочный контекст и логическое мышление, Phi-3 Mini-128K-Instruct продемонстрировал надежную и современную производительность среди моделей с менее чем 13 миллиардами параметров. Ресурсы и техническая документация: + Блог Microsoft Phi-3 + Технический отчет Phi-3 + Phi-3 в Azure AI Studio + Phi-3 ONNX: 128K Модель предназначена для коммерческого и исследовательского использования на английском языке. …
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, nlp, code, en, endpoints_compatible, conversational
Лайков: 40 | Загрузок: 1,077
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
