> Это новая, рабочая версия модели Reflection Llama 3.1 70B. Reflection Llama-3.1 70B — это (предположительно) лучший в мире LLM с открытым исходным кодом, обученный с использованием новой методики под названием Reflection-Tuning, которая учит LLM обнаруживать ошибки в своих рассуждениях и корректировать курс. Суффикс L или XL означает, что встраивание токенов и выходной вес имеют точность fp16. Набор данных iMatrix принадлежит Бартовски, который вы можете найти здесь: Calibration_datav3.txt Модель не обучалась на 3 эпохах, поскольку она идентична запуску 2-й эпохи mattshumer/Reflection-Llama-3.1-70B-ep2-working (возможно, это тоже подделка). Доработка производилась с помощью LoRA с 256 рангом на модели Llama-3.1-70B-Instruct. Предупреждение: скорее всего, это ложные оценки, и их нельзя воспроизвести с помощью этой модели. Все протестированные тесты были проверены на загрязнение с помощью программы LLM Decontaminator от LMSys. При бенчмаркинге мы изолируем и сравниваем только этот раздел. Обучившись на Llama 3.1 70B Instruct, вы можете использовать образец Reflection Llama-3.1 70B, используя тот же код, конвейеры и т. д., что и любая другая модель Llama. Он даже использует стандартный формат шаблона чата Llama 3.1 (хотя мы обучили его нескольким новым…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: leafspark
Теги: ggml, gguf, llama, en, de, fr, it, pt
Лайков: 26 | Загрузок: 274
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
