orangepi 5plus 编译MLC-LLM
在任何设备上编译运行大语言模型
MLC-LLM编译器, 编译前提需要配置TVM环境
TVM环境编译需要安装LLVM
LLVM编译需要cmake
MLC-LLM编译需要依赖:dlpack、dmlc库
dmlc库编译需要cmake
LLVM是构架编译器(compiler)的框架系统，以C++编写而成，用于优化以任意程序语言编写的程序的编译时间(compile-time)、链接时间(link-time)、运行时间(run-time)以及空闲时间(idle-time)，对开发者保持开放，并兼容已有脚本。
LLVM计划启动于2000年，最初由美国UIUC大学的Chris Lattner博士主持开展。2006年Chris Lattner加盟Apple Inc.并致力于LLVM在Apple开发体系中的应用。Apple也是LLVM计划的主要资助者。
LLVM已经被Apple、Microsoft、Google、Facebook等各大公司采用。
https://llvm.org/docs/GettingStarted.html#getting-the-source-code-and-building-llvm
VTM编译时会提示缺少dmlc库
dmlc/logging.h: 没有那个文件或目录
遇到问题缺少c++ dmlc库，手动下载DMLC深度机器学习框架MXNet的编译安装，官方源码编译https://mxnet.apache.org/get_started/build_from_source
https://archive.apache.org/dist/mxnet/1.9.1/
微信赞赏
支付宝扫码领红包
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。侵权投诉：375170667@qq.com
