Since Hyde Llama 2 uses ‘FastTokenizer’ provided by HF tokenizers NOT sentencepiece package, it is required to use usefast=True` option when we initialize the tokenizer. Lastly Apple M1/M2 chips does not support BF16 computing, so use CPU instead.
Модальности:
Генерация текста
Области применения:
Юриспруденция
Задача: Генерация текста
Автор: akkshay
Теги: llama, legal, en, de, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.