Этот репозиторий предназначен для: — Людей, которые просто хотят быстро опробовать технологию llamafile, запустив ./Tinyllama-5M-v0.2-F16.llamafile —cli -p «hello world», поскольку размер этого llamafile составляет всего 17,6 МБ! — Разработчики, которым нужна быстрая демонстрация шагов по преобразованию существующей модели из безопасного тензорного формата в gguf и упаковке в llamafile для удобства распространения (просто запустите llamafile-creation.sh`, чтобы проследить шаги). — Исследователи, которым просто интересно узнать о состоянии технологий ИИ с точки зрения сокращения моделей ИИ, поскольку исходная модель была результатом попытки воспроизвести исследовательскую работу. В этом репозитории содержатся файлы моделей формата llamafile для Maykeye/TinyLLama-v0, который является воссозданием roneneldan/TinyStories-1M, который был частью очень интересной исследовательской работы под названием TinyStories: насколько маленькими могут быть языковые модели и при этом говорить на связном английском языке? Ронен Элдан и Юаньчжи Ли. > Языковые модели (LM) являются мощными инструментами для обработки естественного языка, но им часто трудно создавать связный и беглый текст, когда они малы. Модели с примерно 125 миллионами параметров, такие как GPT-Neo (маленький) или GPT-2 (маленький), редко могут генерировать связный и последовательный текст на английском языке…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: mofosyne
Теги: gguf, llamafile, model-conversion, en, endpoints_compatible
Лайков: 5 | Загрузок: 97
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
