Я не являюсь первоначальным создателем llamafile, вся заслуга llamafile принадлежит Jartine: Chat Мы делаем это, объединяя llama.cpp с Cosmopolitan Libc в один фреймворк, который сводит всю сложность LLM к одному исполняемому файлу (называемому «llamafile»), который работает локально на большинстве компьютеров без установки. Самый простой способ опробовать его на себе — скачать наш пример llamafile. С llamafile все выводы происходят локально; никакие данные никогда не покидают ваш компьютер. 3. Если вы используете macOS, Linux или BSD, вам необходимо предоставить разрешение на выполнение этого нового файла компьютером. (Вам нужно сделать это только один раз.) 4. Если вы используете Windows, переименуйте файл, добавив «.exe» в конце. 6. Ваш браузер должен открыться автоматически и отобразить интерфейс чата. (Если это не так, просто откройте браузер и наведите его на http://localhost:8080.) 7. Когда вы закончите общаться в чате, вернитесь в свой терминал и нажмите Control-C, чтобы закрыть llamafile. Обратите внимание, что LlamaFile…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Bojun-Feng
Теги: llamafile, chat, zho, eng, fra, spa, por, deu
Лайков: 3 | Загрузок: 202
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
