Квантованные файлы моделей GGUF для Tinystories-gpt-0.1-3m из segestic from Transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained(«segestic/Tinystories-gpt-0.1-3m») model = AutoModelForCausalLM.from_pretrained(«segestic/Tinystories-gpt-0.1-3m») выход = model.generate(inputids, maxlength = 1000, num_beams=1) outputtext = tokenizer.decode(output[0],skipspecial_tokens=True) Pipe = Pipeline(«text-generation», model=»segestic/Tinystories-gpt-0.1-3m»)
Модальности:
Генерация текста
Задача: Генерация текста
Автор: afrideva
Теги: gguf, ggml, quantized, en, endpoints_compatible
Лайков: 7 | Загрузок: 411
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.