要在一夜之间把全世界的所有硬件设备都换成智能设备并不现实，且不说这要付出多大的成本、周期和风险，AI芯片的产能困境也已经成为有目共睹的全球问题，眼下，AI应用要实现突破性发展，就必须突破硬件在算力、功耗、内存等方面的限制。
目前常规AI应用的实现方式是，通过设备把数据发送到云端进行运算处理，然后再把处理结果发回设备。但这样的做法仍然存在一些问题：首先，这意味着应用的运营方需要负担巨大的服务器成本和带宽成本；其次，因为要把数据传送到云端再计算，这其中就存在应用体验的时延；其三，如果在网络环境较差的区域，甚至根本无法获得AI应用能力。第四，当前用户数据安全隐私问题日益成为社会焦点，把用户数据从设备发到云上，中间会可能产生大量安全隐私的问题。
所以，AI运算的本地化仍然是绕不开的一个课题，这也是为什么众多科技公司大力投入AI专用硬件研发的原因。但如前文所说，AI专用硬件的全面普及还需要不短的时间，在此之前，唯一办法就是充分挖掘现有硬件终端本身的计算能力。