InternLM2.5 имеет базовую модель с 7 миллиардами параметров и модель чата, адаптированную для практических сценариев. Модель имеет следующие характеристики: — Выдающиеся способности к рассуждениям: Современная производительность по математическим рассуждениям, превосходящая такие модели, как Llama3 и Gemma2-9B. — Окно контекста 1M: Почти идеально подходит для поиска иголок в стоге сена с контекстом длиной 1M, с ведущей производительностью по длинноконтекстным задачам, таким как LongBench. Попробуйте его с LMDeploy для вывода 1M-контекста. — Более эффективное использование инструмента: InternLM2.5 поддерживает сбор информации с более чем 100 веб-страниц, соответствующая реализация будет выпущена в Lagent в ближайшее время. InternLM2.5 обладает лучшими возможностями, связанными с использованием инструмента, в следовании инструкциям, выборе инструмента и отражении. См. примеры. InternLM2.5-7B-Chat-1M — это 1M-контекстная версия InternLM2.5-7B-Chat. Поскольку Huggingface Transformers напрямую не поддерживает вывод с 1M-контекстом, мы рекомендуем использовать LMDeploy. Обычное использование с трансформаторами Huggingface также показано ниже. LMDeploy — это набор инструментов для сжатия, развертывания и обслуживания LLM, разработанный командами MMRazor и MMDeploy. Вот пример контекста длиной 1M…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Lasserino
Лайков: 3 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
