2024/03/04 webbigdata/C3TR-Adapter Требования к памяти графического процессора увеличены до 8,1 ГБ. Однако его можно запустить с помощью бесплатной версии Colab, и производительность значительно улучшится! 21.10.2023 ALMA-7B-Ja-V2 Повышена общая производительность. Ниже приведено описание старой версии. Мы настоятельно рекомендуем вам попробовать новую версию, указанную выше. Оригинальная модель ALMA ALMA-7B. (26,95 ГБ) — новая модель перевода парадигмы. ALMA-7B-Ja-GPTQ-Ja-En — это модель машинного перевода, которая использует метод обучения ALMA для перевода с японского на английский. (13,3 ГБ). Эта модель представляет собой модель квантовой версии GPTQ, которая уменьшает размер модели (3,9 ГБ) и использование памяти, хотя производительность, вероятно, ниже. А возможности перевода на другие языки, кроме японского и английского, значительно ухудшились. Если вы хотите перевести весь файл сразу, попробуйте Colab ниже. ALMA7BJaGPTQJaEnbatchtranslationsample Значит у тебя памяти не хватает. уменьшите размер num_beams или токена. ALMA (trAnslator на основе расширенной языковой модели) — это модель перевода на основе LLM, в которой применяется новая парадигма модели перевода: она начинается с точной настройки одноязычных данных и в дальнейшем оптимизируется с использованием высококачественных параллельных данных.…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: webbigdata
Теги: llama, ja, en
Лайков: 7 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
