Лама-3.1-Кентавр-70B — это базовая модель познания, которая может предсказывать и моделировать поведение человека в любом поведенческом эксперименте, выраженном на естественном языке. — Документ: базовая модель для прогнозирования и фиксации человеческого познания — Дополнительная информация: Документация — Контактное лицо: Марсель Бинц Обратите внимание, что Centaur обучается на наборе данных, в котором человеческий выбор инкапсулируется токенами «» . Для оптимальной производительности рекомендуется соответствующим образом настроить подсказки. Вы можете использовать модель, используя библиотеку HuggingFace Transformers с 2 или более графическими процессорами по 80 ГБ (NVIDIA Ampere или новее) и как минимум 150 ГБ свободного дискового пространства для загрузки. Более подробная информация представлена в этом примере сценария. В качестве альтернативы вы можете запустить модель с unsloth на одном графическом процессоре емкостью 80 ГБ, используя адаптер низкого ранга.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: marcelbinz
Теги: llama, Psychology, unsloth, text-generation-inference, endpoints_compatible
Лайков: 82 | Загрузок: 749
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.