端侧大模型
duan ce da mo xing · 端侧 AI
一句话解释
部署在设备本地、无需把输入上传到云端即可完成特定推理任务的模型。
这个说法从哪来
经过压缩后放进设备本地运行的模型,由设备自身的神经网络单元完成推理。
怎么用
用来判断某项 AI 功能的输入是否留在本地、断网时能否使用。
举个例子
飞行模式下仍能搜索相册,通常说明这一步走的是端侧能力。
注意什么
端侧不等于全部功能本地化,复杂任务常采用端云协同。
查完之后
词典给的是通用口径。真正要用时,还请补上三件事:自己的机型与系统版本、信息来自哪里、以及核对日期。把这三样写进笔记,这条结论才真正能对得上。