Обновление от 27 января: Эта модель была создана до некоторых обновлений конфигурации от internlm. Попробуйте новую здесь и сообщите о любых различиях: https://huggingface.co/bartowski/internlm2-chat-20b-llama-exl2/ Каждая ветвь содержит отдельные биты на вес, а основная содержит только файл meaurement.json для дальнейших преобразований. Аргументы по умолчанию используются, за исключением случаев, когда количество битов на вес превышает 6,0, в этот момент слой lm_head квантуется по 8 бит на вес вместо 6 по умолчанию. Исходная модель: https://huggingface.co/internlm/internlm2-chat-20b Чтобы загрузить основную ветку (полезно только в том случае, если вас интересует только файл Measure.json) в папку с именем internlm2-chat-20b-llama-exl2: скачайте из другой ветки, добавьте параметр —revision:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: bartowski
Лайков: 7 | Загрузок: 2
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
