mnn-llm-apk
基于mnn-llm构建的Android apk, apk中不含模型文件。使用方法如下:
- 下载想要测试的模型文件夹,可以参考README中的链接下载, 注意文件夹名称需要包含模型名称;
- 将下载好的文件夹使用adb推动到
/data/local/tmp/mnn-llm
目录下,命令行如下:
adb shell mkdir /data/local/tmp/mnn-llm
adb push ./qwen-1.8b-mnn /data/local/tmp/mnn-llm
- 下载安装
apk
,打开后在下拉列表中选择要测试的模型文件目录,点击加载模型
按钮; - 进入聊天界面,进行聊天测试;