Это 32-тысячная версия Smaug-Llama-3-70B-Instruct. Он использует передачу адаптеров PoSE (https://arxiv.org/abs/2309.10400) и LoRA (https://arxiv.org/abs/2106.09685). Более подробная информация появится в ближайшее время. Тепловая карта Needle-In-A-Haystack (https://github.com/jzhang38/EasyContext): — Разработано: Abacus.AI — Лицензия: https://llama.meta.com/llama3/license/ — Доработано на основе модели: Meta-llama/Meta-Llama-3-70B-Instruct. Оценка по сравнению с выбранными другими (источник: (https://lmsys.org/blog/2024-04-19-arena-hard/#full-leaderboard-with-gpt-4-turbo-as-judge)). GPT-4o и Gemini-1.5-pro-latest отсутствовали в исходном сообщении blob, и мы получили эти цифры из локального запуска, используя ту же методологию. Обратите внимание: мы считаем, что количество токенов/подробность модели сильно влияет на оценку GPT-4 в этом случае и, по крайней мере, частично объясняет улучшение показателя Arena-Hard для модели 32K. GSM8K Приведенные здесь цифры GSM8K рассчитаны с использованием последней версии оценочного ремня LM. Фиксация, используемая в таблице лидеров, имеет существенную проблему, которая влияет на модели, которые обычно используют : в своих ответах из-за ошибки в конфигурации стоп-слова для GSM8K. Более подробно этот вопрос освещен…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: abacusai
Теги: llama, conversational, model-index, text-generation-inference, endpoints_compatible
Лайков: 21 | Загрузок: 8,109
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
