LLama-3.1-KazLLM-1.0-70B — это большая языковая модель, адаптированная ISSAI для повышения полезности ответов, генерируемых LLM на казахском языке. Получая доступ к этой модели, вы соглашаетесь со следующими условиями LLama 3.1: Кроме того, эта модель лицензируется по лицензии CC BY-NC 4.0. Оценки моделей проводились с использованием установленных критериев и систематического процесса проверки производительности при выполнении различных когнитивных и технических задач. Чтобы протестировать собственную модель и узнать об условиях оценки приведенных ниже результатов, обратитесь к репозиторию IS2AI/KazLLM_Benchmark. ————————-|—————|———|———|—————-|—————|———|———-|———| ————————-|—————|———|———|—————-|—————|———|———-|———| Вы можете использовать модель, используя библиотеку HuggingFace Transformers с 2 или более графическими процессорами по 80 ГБ (NVIDIA Ampere или новее) и как минимум 150 ГБ свободного дискового пространства для загрузки. Этот код был протестирован на Transformers v4.45.1, Torch v2.3.1 и двух графических процессорах H100, но любая установка, поддерживающая Meta-llama/Llama-3.1-70B-Instruct, должна поддерживать это…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: issai
Теги: llama, conversational, kk, en, ru, tr, text-generation-inference, endpoints_compatible
Лайков: 15 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
