Лицензируется под лицензией Apache версии 2.0 («Лицензия»); вы не можете использовать этот файл, кроме как в соответствии с Лицензией. Вы можете получить копию Лицензии по адресу http://www.apache.org/licenses/LICENSE-2.0 DeepAutoAI/ldmsoupLlama-3.1-8B-Inst, разработанную deepAuto.ai и основанную на модели VAGOsolutions/Llama-3.1-SauerkrautLM-8B-Instruct. Наш подход использует предварительно обученные веса базовой модели и оптимизирует их для наборов данных Winogrande и ARC-Challenge, обучая модель латентной диффузии на предварительно обученных весах. Благодаря этому процессу мы узнаем распределение пространства веса базовой модели, что позволяет нам исследовать оптимальные конфигурации. Затем мы выбираем несколько наборов весов, используя метод усреднения модели-супа для определения наиболее эффективных весов для обоих наборов данных. Эти веса объединяются с использованием линейной интерполяции для создания окончательных весов модели для DeepAutoAI/ldmsoupLlama-3.1-8B-Inst. Этот подход привел к повышению производительности ранее невидимых задач в таблице лидеров, и все это без какого-либо дополнительного обучения конкретным задачам.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DeepAuto-AI
Теги: llama, conversational, en, model-index, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 40
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
