人工智能风潮席卷全球,而为了加速AI应用普及,并降低云端运算工作负载,实现更多的创新应用,边缘运算需求与日俱增,AI开始从「云端」走向「终端」,也因而推升ASIC需求; 根据市调机构Ovum预估,2018——2025年,ASIC的市占率将从11%大幅增加至48%。Ovum调查报告指出,在2016年,云端(包含企业、数据中心等)为深度学习晶片的主要营收领域,占了80%。不过,到了2025年,此一比例将会改变,转变成边缘(Edge)占了80%,而云端的比例则降为20%。这边所指的边缘意指终端设备,且以消费性产品为中心(而非小型伺服器或是路由器),包括移动装置(手机、平板)、头戴式显示器(HMD),如AR/VR /MR、智能音箱、机器人、无人机、汽车、安全摄影镜头等。 Tractica/Ovum研究总监Aditya Kaul表示,现今大多数的AI处理器,如GPU,多用于云端伺服器、资料中心,以在云端上进行AI训练和推论。不过,随着隐私、安全性需求增加,加上为了降低成本、延迟及打破频宽限制等因素,分散式AI随之兴起,越来越多AI边缘应用案例出现。例如苹果的A12仿生芯片,其具备新一代「神经网路引擎」,以即时机器学习技术,改变智能手机的使用体验。 Kaul指出,简而言之,AI从云端转向边缘是现在进行式,当然目前AI在边缘设备上多还是以推论为主,而非训练。不过随着AI创新应用增加,有越来越对芯片商尝试提升终端装置处理器的运算效能,为的就是不用再传送资料至云端进行资料运算、推理和训练。也因此,各式的处理器纷纷问世,像是CPU、FPGA、GPU、ASIC、NPU或SoC Accelerator等。 其中,ASIC的市占率可望随着边缘运算的需求增加而明显攀升,从2018年的11%增加至2025年的52%。Kaul进一步解释,ASIC之所以受到青睐,原因在于新兴的深度学习处理器架构多以图形(Graph)或Tensorflow为基础架构;且上述提到AI边缘运算受限于功耗和运算效能,因此多以推论为主,而非训练。然而,若假设到2021年时,终端设备将导入大量AI芯片,所需要的便是能在同一个芯片上进行推理和训练,可因应分散式运算且又具低功耗的IC,因此ASIC需求将持续上扬,实现更多AI边缘应用案例。