Обновление от 27 января: это было переделано с правильным сопоставлением токенов и масштабированием веревок, производительность кажется улучшенной, если нет, прокомментируйте. Каждая ветвь содержит отдельные биты на вес, а основная содержит только meaurement.json для дальнейших преобразований. Исходная модель: https://huggingface.co/internlm/internlm2-chat-20b Чтобы загрузить основную ветку (полезно только в том случае, если вас интересует только измерение.json) в папку с именем internlm2-chat-20b-llama-exl2: Чтобы загрузить из другой ветки, добавьте параметр —revision: Windows (которая, видимо, иногда не любит _ в папках?): Хотите поддержать мою работу? Посетите мою страницу ко-фи здесь: https://ko-fi.com/bartowski
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: bartowski
Лайков: 6 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
