Это модель чата Llama 2 7B, доработанная с помощью QLoRA в комментариях и ответах субреддита /r/wallstreetbets в 2017–2018 годах с надеждой узнать больше о QLoRA и создать модели с немного большим характером. — Разработано: Sentdex — Предоставлено: Sentdex — Вычисления на графическом процессоре предоставлены: Lambda Labs — Тип модели: Инструкция/Чат — Язык(и) (NLP): Многоязычный из Llama 2, но не уверен, что с ним сделала точная настройка или хорошо ли настроенное поведение переводится на другие языки. Дайте мне знать! — Лицензия: Apache 2.0 — Доработано на основе чата Llama 2 7B. Основная цель этой модели — быть забавным чат-ботом и узнавать больше о QLoRA. Он не предназначен для использования в каких-либо других целях, и некоторым людям он может показаться резким/оскорбительным. Эта модель склонна использовать как минимум три слова, которые широко использовались в субреддите WSB в ту эпоху и вызывают гораздо больше неодобрения. Со временем я могу сократить или найти замену этих слов в обучающих данных или оставить их. Имейте в виду, что эта модель может быть оскорбительной и предназначена не для всей аудитории! Несмотря на то, что это типичный токен остановки ламы, мне так и не удалось сгенерировать этот токен при обучении/тестировании, чтобы модель…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Sentdex
Теги: llama, text-generation-inference, endpoints_compatible, 4-bit, bitsandbytes
Лайков: 11 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
