HumanLLMs/Human-Like-Qwen2.5-7B-Instruct

&nbsp&nbsp | 🤗 Модели&nbsp&nbsp | &nbsp&nbsp 📊 Набор данных&nbsp&nbsp | &nbsp&nbsp 📄Бумага&nbsp&nbsp | 📢 Статья, связанная с этой моделью, была принята на семинар AAAI-26 по персонализации в эпоху больших моделей фундамента (PerFM). Эта модель представляет собой доработанную версию Qwen/Qwen2.5-7B-Instruct, специально оптимизированную для генерации более человеческих и диалоговых ответов. В процессе тонкой настройки использовались как низкоранговая адаптация (LoRA), так и прямая оптимизация предпочтений (DPO) для улучшения понимания естественного языка, связности разговора и эмоционального интеллекта во взаимодействии. Процесс создания этих моделей подробно описан в исследовательской статье «Улучшение человеческих ответов в больших языковых моделях». — Базовая модель: Qwen2.5-7B-Instruct — Платформа: Axolotl v0.4.1 — Аппаратное обеспечение: 2 графических процессора NVIDIA A100 (80 ГБ) — Время обучения: ~2 часа 15 минут — Набор данных: синтетический набор данных с ≈11 000 образцов по 256 различным темам. Этот шаблон приглашения доступен в виде шаблона чата, что означает, что вы можете форматировать сообщения с помощью метода tokenizer.applychattemplate(): — https://huggingface.co/bartowski/Human-Like-LLama3-8B-Instruct-GGUF -…

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям

Задача: Генерация текста
Автор: HumanLLMs
Теги: qwen2, axolotl, dpo, trl, conversational, en, model-index, text-generation-inference
Лайков: 12  |  Загрузок: 65

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.