Bielik-11B-v2 — это генеративная текстовая модель с 11 миллиардами параметров. Он инициализирован на основе своего предшественника Mistral-7B-v0.2 и обучен на 400 миллиардах токенов. Вышеупомянутая модель является свидетельством уникального сотрудничества между открытым научным проектом SpeakLeash и центром высокопроизводительных вычислений (HPC): ACK Cyfronet AGH. Этот проект, разработанный и обученный на основе польских текстовых корпусов, тщательно отобранных и обработанных командой SpeakLeash, использует польскую крупномасштабную вычислительную инфраструктуру, в частности, в среде PLGrid, а точнее, в центре высокопроизводительных вычислений: ACK Cyfronet AGH. Создание и обучение Bielik-11B-v2 было стимулировано поддержкой вычислительного гранта номер PLG/2024/016951, проведенного на суперкомпьютерах Athena и Helios, что позволило использовать передовые технологии и вычислительные ресурсы, необходимые для крупномасштабных процессов машинного обучения. В результате модель демонстрирует исключительную способность понимать и обрабатывать польский язык, обеспечивая точные ответы и выполняя различные лингвистические задачи с высокой точностью. ⚠️ Это базовая модель, предназначенная для дальнейшей доводки…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: speakleash
Теги: mistral, pl, text-generation-inference, endpoints_compatible
Лайков: 46 | Загрузок: 842
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
