Встречайте LeoLM, первую открытую и коммерчески доступную модель немецкого языка Foundation, созданную на основе Llama-2. Наши модели расширяют возможности Llama-2 на немецкий язык посредством постоянной предварительной подготовки на большом корпусе немецкого языка и, главным образом, текстов, специфичных для данной местности. Благодаря гранту на вычисления на новом суперкомпьютере HessianAI 42 мы выпускаем две базовые модели, обученные с длиной контекста 8 КБ, LeoLM/leo-hessianai-7b и LeoLM/leo-hessianai-13b под лицензией сообщества Llama-2 (70b также скоро появится! 👀). С этим выпуском мы надеемся открыть новую волну возможностей для немецких исследований LLM с открытым исходным кодом и коммерческих исследований и ускорить внедрение. Прочтите нашу [пост в блоге]() или нашу статью (скоро выйдет препринт) для получения более подробной информации! Проект Бьёрна Плюстера и Кристофа Шумана в сотрудничестве с LAION и HessianAI. — Точная настройка: мета-лама/Llama-2-7b-hf — Тип модели: языковая модель преобразователя, предназначенная только для каузального декодера — Язык: английский и немецкий — Лицензия: ЛИЦЕНЗИОННОЕ СОГЛАШЕНИЕ СООБЩЕСТВА LLAMA 2 — Контакт: LAION Discord или Björn Plüster Если вы хотите ускорить вывод с использованием flash-attention2, вам необходимо установить следующие зависимости:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: LeoLM
Теги: llama, custom_code, en, de, text-generation-inference, endpoints_compatible
Лайков: 47 | Загрузок: 971
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
