   | 🤗 Модели   |    📊 Набор данных   |    📄Бумага   | 📢 Статья, связанная с этой моделью, была принята на семинар AAAI-26 по персонализации в эпоху больших моделей фундамента (PerFM). Эта модель представляет собой доработанную версию мета-ламы/Мета-ламы-3-8B-Instruct, специально оптимизированную для генерации более человеческих и разговорных ответов. В процессе тонкой настройки использовались как низкоранговая адаптация (LoRA), так и прямая оптимизация предпочтений (DPO) для улучшения понимания естественного языка, связности разговора и эмоционального интеллекта во взаимодействии. Процесс создания этих моделей подробно описан в исследовательской статье «Улучшение человеческих ответов в больших языковых моделях». — Базовая модель: Llama3-8B-Instruct — Платформа: Axolotl v0.4.1 — Аппаратное обеспечение: 2 графических процессора NVIDIA A100 (80 ГБ) — Время обучения: ~2 часа 20 минут — Набор данных: синтетический набор данных с ≈11 000 образцов по 256 различным темам. Этот шаблон приглашения доступен в виде шаблона чата, что означает, что вы можете форматировать сообщения с помощью метода tokenizer.applychattemplate(): — https://huggingface.co/bartowski/Human-Like-LLama3-8B-Instruct-GGUF -…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: HumanLLMs
Теги: llama, axolotl, dpo, trl, conversational, model-index, text-generation-inference, endpoints_compatible
Лайков: 24 | Загрузок: 357
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
