Эта модель, созданная на основе ytu-ce-cosmos/turkish-gpt2-medium, представляет собой модель турецкого языка (LLM), настроенную с использованием набора данных, состоящего из 35 тысяч инструкций. Из-за разнообразия данных обучения, включая веб-сайты, книги и другие текстовые источники, эта модель может проявлять предвзятость и давать неправильные ответы. Пользователи должны знать об этих предубеждениях и использовать модель ответственно. — Мы тщательно доработали эту модель с помощью турецкого набора данных из 35 000 инструкций, чтобы повысить ее точность и адаптируемость. — Используя LoRA (адаптацию низкого ранга), мы успешно довели эту модель до вершины ее производительности. — Конфигурация LoRA: ранг = 256 loraalpha = 512 loradropout = 0,05 смещение = «нет» Tasktype = «CAUSAL_LM» — Помимо мониторинга потерь, мы успешно интегрировали расчеты Rouge в показатели оценки нашей системы. — Один из инновационных методов, который мы использовали, заключался в использовании модели для очистки наших данных. — Разработано: ytu-ce-cosmos — Точная настройка на основе модели: ytu-ce-cosmos/turkish-gpt2-medium — Благодаря щедрой поддержке команды Hugging Face можно загружать модели из их хранилища S3 🤗 — Исследования поддерживаются с помощью Cloud TPU…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: ytu-ce-cosmos
Теги: gpt2, Turkish, turkish, instruction-tuning, alpaca, conversational, tr, text-generation-inference
Лайков: 12 | Загрузок: 137
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
