Спасибо @Epiculous за отличную модель, помощь с бэкэндом llm и поддержку в целом. Я также хотел бы поблагодарить @kalomaze за добавление в ST сэмплера допинга. @SanjiWatsuki Большое спасибо за помощь и модель! Пользователи ST могут найти TextGenPreset в папке с соответствующим названием. Кванты: Спасибо @s3nh! https://huggingface.co/s3nh/Kunocchini-7b-128k-test-GGUF и @bartowski https://huggingface.co/bartowski/Kunocchini-7b-128k-test-exl2 Спасибо @Lewdiculus за кванты Imatrix gguf: https://huggingface.co/Lewdiculous/Kunocchini-7b-128k-test-GGUF-Imatrix В объединение были включены следующие модели: SanjiWatsuki/Kunoichi-DPO-v2-7B Epiculous/Fett-uccine-Long-Noodle-7B-120k-Context Для создания этой модели использовалась следующая конфигурация YAML:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ChaoticNeutrals
Теги: mistral, mergekit, merge, alpaca, conversational, custom_code, model-index, text-generation-inference
Лайков: 18 | Загрузок: 114
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
