Чат и поддержка: мой новый сервер Discord Хотите внести свой вклад? Страница TheBloke на Patreon. Это файлы моделей в формате pytorch fp16 для Nous-Hermes-13B от NousResearch, объединенные с SuperHOT 8K Кайо Кена. SuperHOT 13b LoRA Кайо Кена объединяется с базовой моделью, а затем во время вывода можно получить контекст 8K, используяtrustremotecode=True. Обратите внимание, что в config.json установлена длина последовательности 8192. Ее можно изменить на 4096, если вы хотите попробовать использовать меньшую длину последовательности. 4-битные модели GPTQ для вывода графического процессора. Неквантованная модель SuperHOT fp16 в формате pytorch, для вывода графического процессора и дальнейших преобразований. * Неквантованная базовая модель fp16 в формате pytorch, для вывода графического процессора и дальнейших преобразований. Для дальнейшей поддержки и обсуждений этих моделей и искусственного интеллекта в целом присоединяйтесь к нам по адресу: Многие люди спрашивали, могут ли они внести свой вклад. Мне нравится предоставлять модели и помогать людям, и я хотел бы иметь возможность уделять этому еще больше времени, а также заниматься новыми проектами, такими как точная настройка/обучение. Если вы можете и хотите внести свой вклад, он будет принят с большой благодарностью и поможет мне продолжать предоставлять больше моделей и начать работу над новыми проектами искусственного интеллекта. Жертвователи будут…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TheBloke
Теги: llama, custom_code, text-generation-inference
Лайков: 4 | Загрузок: 50
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
