Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области LLM щедро поддерживается грантом от Андреессена Горовица (a16z). Эти файлы представляют собой файлы 4-битной модели GPTQ для Starcoder от Bigcode. 4-битные модели GPTQ для вывода графического процессора. 4-, 5- и 8-битные модели GGML для вывода CPU+GPU. * Неквантованная модель fp16 Bigcoder в формате pytorch, для вывода графического процессора и дальнейших преобразований. Как таковая, это не модель инструкций и команд типа «Напишите функцию, которая вычисляет квадратный корень». не работают хорошо. Однако, используя подсказку Tech Assistant, вы можете превратить его в способного технического помощника. Убедитесь, что вы используете последнюю версию text-generation-webui. 1. Перейдите на вкладку «Модель». 2. В разделе «Загрузить пользовательскую модель или LoRA» введите TheBloke/starcoder-GPTQ. 3. Нажмите «Загрузить». 4. Начнется загрузка модели. По завершении появится сообщение «Готово». 5. В левом верхнем углу щелкните значок обновления рядом с надписью «Модель». 6. В раскрывающемся списке «Модель» выберите только что загруженную модель: starcoder-GPTQ. 7. Модель автоматически загрузится и теперь готова к использованию! 8. Если вам нужны какие-либо пользовательские настройки, установите их и нажмите «Сохранить настройки для этого…»
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: TheBloke
Теги: gpt_bigcode, code, model-index, text-generation-inference, 4-bit, gptq
Лайков: 13 | Загрузок: 13
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
