先看一个数字零售www.66abg66.net,某连锁便当店正在20台自助收银机里换上带NPU的零售 AI 芯片后。商品识别提早900毫秒降还有180毫秒,高峰期列队长度少了近三成。那个场景不靠云端,芯片正在当地完成图像推理,断网也能结账芯片。选型时别只盯TOPS,先问模子能不能量化、内存够不够、功耗扛不扛得住店肆7×24小时运转。把需求拆成三张表,输入设备、模子类型、安排情况了样选银台。输入设备决议接口了。

好比MIPI接摄像头、USB接扫码枪、以太网接电子价签;模子类型决议算力,YOLO类检测和CLIP类检索对NPU支撑差异很年夜;安排情况决议散热和功耗了,柜台下密闭空间别选10W以上无风扇计划。

我的履历从收是先用目的场景的1000张实正在图片跑一遍量化模子,再比较芯片实测帧率和内存占用,纸面参数参考价值有限的。去年帮一家社区超市做货架识别,最后用通用CPU跑轻量模子,到货识别一帧要1.2秒,漏检临期商品的。换成集成NPU的零售 AI 芯片后,单帧降到220毫秒。误报率28%压还有9%。很重要动做就是实战把模子输入1080p降还有720p,并做INT8量化。

省下的算力留给多路视频流,8个货架摄像头共用一块板卡。别忽略软件栈了。芯片厂供给SDK的成熟度清单。决议你两周上线仍是两个月调试。

问明晰可否支撑ONNX、TFLite、PyTorch导出,算子笼盖率几吧?有没有现成的Retail检测示例呢?本钱算总账,芯片单价、载板、散热、受权、运维了。零售场景批量年夜了,每台多20元,一万台就是20万,甲方会几回砍吧?小步考据最稳的。拿一台样机。

正在实正在门店跑七天,记载高峰时段温度、帧率、断网重连。跑得稳再复制到10家店了。零售 AI 芯片不是越贵越好,能让收银不卡、货架不缺、客举动线看得清,才是好芯片。