Tess, сокращение от Tesoro (Сокровище на итальянском языке), представляет собой серию моделей большого языка общего назначения. Тесс-2.0-Лама-3-70Б-v0.2 была обучена на базе Мета-Ламы/Мета-Лламы-3-70Б. Разница между версией 0.1 и версией 0.2 заключается в том, что версия 0.2 подверглась дополнительному этапу снятия цензуры. Вычисление для Tess-2.0-Llama-3-70B-v0.2 спонсировалось KindoAI. Tess-2.0-Llama-3 обучалась на наборе данных Tess-2.0 (все еще курируемом). Набор данных Tess-2.0 и методология обучения соответствуют принципам LIMA (меньше значит больше) и содержат около 100 тысяч высококачественного кода и общие обучающие образцы. Набор данных не подвергается цензуре, поэтому модель почти всегда будет следовать инструкциям. Модель была точно настроена только для двух эпох с низкой скоростью обучения, чтобы попытаться максимально сохранить ее энтропию. В версии 0.2 к смеси был также добавлен набор данных без цензуры. Хотя эта модель нацелена на точность, иногда она может давать неточные или вводящие в заблуждение результаты. Несмотря на усердные усилия по уточнению предтренировочных данных, остается вероятность создания неуместного, предвзятого или оскорбительного контента. Будьте осторожны и при необходимости перепроверяйте информацию. Это модель без цензуры.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: migtissera
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 15 | Загрузок: 8,161
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
