Эта модель представляет собой готовую версию LLaMA-7B варианта Landmark Attention. Исходный код изменен с Landmark GitHub, а веса отсюда. В качестве варианта LLaMA на эту модель может распространяться лицензия LLaMA. Вы можете настроить параметры Landmark, отредактировав memfreq, memtopk, memmaxseqlen и memmaxcachesize`.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: emozilla
Теги: llama, custom_code, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 443
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.