Кванты матрицы важности (imatrix) GGUF для https://huggingface.co/cognitivecomputations/dolphincoder-starcoder2-15b. Матрица важности была обучена для ~ 50 тыс. токенов (105 пакетов по 512 токенов) с использованием набора калибровочных данных imatrix общего назначения. Иматрица также используется для K-квантов (под Q6_K). > Эта модель основана на StarCoder2-15b и подлежит лицензии bigcode-openrail-m. Этот Dolphin действительно хорош в кодировании, я тренировался на большом количестве данных по кодированию. Эта модель не прошла цензуру. Я отфильтровал набор данных, чтобы удалить выравнивание и предвзятость. Это делает модель более совместимой. Прежде чем предоставлять модель как услугу, рекомендуется реализовать собственный уровень выравнивания. Он будет в высшей степени отзывчив на любые просьбы, даже неэтичные. Пожалуйста, прочитайте мой пост в блоге о моделях без цензуры. https://erichartford.com/uncensored-models Вы несете ответственность за любой контент, который вы создаете с использованием этой модели. Наслаждайтесь ответственно.
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: dranger003
Теги: gguf, endpoints_compatible, conversational
Лайков: 5 | Загрузок: 264
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
