Я тестировал новую функцию с набором данных Tess-v2.5. Если бы вы использовали эту модель, вы могли бы заметить, что поколения моделей иногда заканчиваются дополнительным вопросом. Это сделано намеренно и создано для того, чтобы обеспечить более «естественный» разговор. Ранее произошло то, что стоп-токен не был сгенерирован должным образом, поэтому модель продолжала отвечать на свой собственный вопрос. Сейчас я это исправил, и Tess-v2.5.2 доступен на HF здесь: Модель Tess-v2.5.2 Модель Tess-v2.5.2 по-прежнему будет задавать вам дополнительные вопросы, но стоп-токены генерируются правильно. Если вы не хотите использовать функцию дополнительных вопросов, просто добавьте в системное приглашение следующее: «Последующие вопросы не требуются». Мы создали Tess-v2.5, новейшую современную модель в серии моделей больших языков (LLM) Tess. Tess, сокращение от Tesoro (Сокровище по-итальянски), является флагманской серией LLM, созданной Мигелем Тиссерой. Tess-v2.5 приносит значительные улучшения в возможностях рассуждения, кодировании и математике. В настоящее время это модель с открытым весом №1 по оценке MMLU (массовое многозадачное понимание языка). Он оценивается выше, чем все остальные…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: migtissera
Теги: qwen2, conversational, text-generation-inference, endpoints_compatible
Лайков: 18 | Загрузок: 25
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
