4-битная (int4) квантованная версия с использованием истинной последовательности и размера группы 128 https://huggingface.co/elinas/chronos-13b. Эта модель в первую очередь ориентирована на чат, ролевые игры и написание рассказов, но может выполнять и другие задачи, такие как простое рассуждение и кодирование. Chronos генерирует очень длинные выходные данные со связным текстом, во многом благодаря человеческому вводу данных, на котором он был обучен. В этой модели используется форматирование Alpaca, поэтому для оптимальной производительности модели используйте: Данные. Данные, используемые для обучения модели, собираются из различных источников, в основном из Интернета. Таким образом, он содержит оскорбительный, вредный и предвзятый контент. Таким образом, мы ожидаем, что модель будет демонстрировать такие отклонения от обучающих данных. Человеческая жизнь Модель не предназначена для принятия решений по вопросам, имеющим решающее значение для человеческой жизни, и ее не следует использовать таким образом. Меры по смягчению последствий Мы отфильтровали данные из Интернета на основе их близости к тексту и ссылкам Википедии. Для этого мы использовали языковую модель Кнезера-Нея и линейный классификатор fastText. Риски и вред Риски и вред больших языковых моделей включают создание вредного, оскорбительного или предвзятого контента. Эти модели часто склонны генерировать неверную информацию, иногда называемую…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: elinas
Теги: llama, chatbot, gptq, cuda, storywriting, endpoints_compatible
Лайков: 23 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
