Точная настройка на подмножестве OpenOrca GPT4 для 1 эпохи. Использование формата CHATML — GPTQ: https://huggingface.co/TheBloke/TinyLlama-1.1B-1T-OpenOrca-GPTQ — AWQ: https://huggingface.co/TheBloke/TinyLlama-1.1B-1T-OpenOrca-AWQ — GGUF: https://huggingface.co/TheBloke/TinyLlama-1.1B-1T-OpenOrca-GGUF Аппаратное обеспечение: 1*RTX A5000, ~16 часов на прохождение 1 эпохи. Графический процессор с autodl.com стоит около 3 долларов за эту тонкую настройку. https://wandb.ai/jeff200402/TinyLlama-Orca?workspace= для более подробной информации.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jeff31415
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 506
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
