requires latest transformers, >=4.41 (support for mlp+attn bias https://github.com/huggingface/transformers/pull/30031) https://github.com/geronimi73/3090shorts/blob/main/nbllama3-8b_orthogonalize.ipynb
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: g-ronimo
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 27
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.