Чат и поддержка: мой новый сервер Discord Хотите внести свой вклад? Страница TheBloke на Patreon Эти файлы представляют собой файлы моделей формата fp16 для Meta’s Llama 2 13B. Они были созданы путем загрузки файлов PTH из Meta и последующего преобразования в формат HF с использованием последней версии Transformers 4.32.0.dev0 из Git, включая Llama 2 PR: https://github.com/huggingface/transformers/pull/24891. Модели GPTQ для вывода графического процессора с несколькими вариантами параметров квантования. Исходная неквантованная модель fp16 в формате pytorch, для вывода графического процессора и дальнейших преобразований * Мое преобразование fp16 неквантованных файлов модели PTH. Для дальнейшей поддержки и обсуждения этих моделей и искусственного интеллекта в целом присоединяйтесь к нам по адресу: Многие люди спрашивали, могут ли они внести свой вклад. Мне нравится предоставлять модели и помогать людям, и я хотел бы иметь возможность уделять этому еще больше времени, а также заниматься новыми проектами, такими как точная настройка/обучение. Если вы можете и желаете внести свой вклад, он будет принят с большой благодарностью и поможет мне продолжать предоставлять больше моделей и начать работу над новыми проектами искусственного интеллекта. Жертвователи получат приоритетную поддержку по любым вопросам и запросам по AI/LLM/моделям, доступ к частному Discord…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TheBloke
Теги: llama, facebook, meta, llama-2, en, text-generation-inference
Лайков: 63 | Загрузок: 1,017
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
