См. наши тесты квантования в Unsloth Dynamic 2.0 GGUF. — Обратите внимание, что и являются отдельными токенами, поэтому при необходимости используйте —special. — Вы также можете доработать модель с помощью Unsloth. Данные Common Crawl на английском языке были загружены с сайта Common Crawl Foundation (подробную информацию об их сканировании см. в разделе «Часто задаваемые вопросы») и включают снимки с CC-MAIN-2013-20 по CC-MAIN-2025-13. Впоследствии данные были дедуплицированы и отфильтрованы различными способами, описанными в статье Nemotron-CC. Кроме того, мы извлекли данные для пятнадцати языков из следующих трех снимков Common Crawl: CC-MAIN-2024-51, CC-MAIN-2025-08, CC-MAIN-2025-18. Пятнадцать включенных языков включали арабский, китайский, датский, голландский, французский, немецкий, итальянский, японский, корейский, польский, португальский, русский, испанский, шведский и тайский. Поскольку у нас не было надежных многоязычных классификаторов качества на основе моделей, вместо этого мы применили просто эвристическую фильтрацию — аналогично тому, что мы делали для английских данных более низкого качества в конвейере Nemotron-CC, но выборочно удаляя некоторые фильтры для некоторых языков, которые работали неэффективно. Дедупликация делалась так же, как и для Немотрона-СС. Сканирование GitHub было собрано с использованием GitHub REST API…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: unsloth
Теги: nemotron_h, nvidia, conversational, custom_code, en
Лайков: 5 | Загрузок: 383
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
