AI从云端走向终端 推动ASIC需求

　　人工智能风潮席卷全球，而为了加速AI应用普及，并降低云端运算工作负载，实现更多的创新应用，边缘运算需求与日俱增，AI开始从「云端」走向「终端」，也因而推升ASIC需求；　　根据市调机构Ovum预估，2018——2025年，ASIC的市占率将从11%大幅增加至48%。Ovum调查报告指出，在2016年，云端（包含企业、数据中心等）为深度学习晶片的主要营收领域，占了80%。不过，到了2025年，此一比例将会改变，转变成边缘（Edge）占了80%，而云端的比例则降为20%。这边所指的边缘意指终端设备，且以消费性产品为中心（而非小型伺服器或是路由器），包括移动装置（手机、平板）、头戴式显示器（HMD），如AR/VR /MR、智能音箱、机器人、无人机、汽车、安全摄影镜头等。　　Tractica/Ovum研究总监Aditya Kaul表示，现今大多数的AI处理器，如GPU，多用于云端伺服器、资料中心，以在云端上进行AI训练和推论。不过，随着隐私、安全性需求增加，加上为了降低成本、延迟及打破频宽限制等因素，分散式AI随之兴起，越来越多AI边缘应用案例出现。例如苹果的A12仿生芯片，其具备新一代「神经网路引擎」，以即时机器学习技术，改变智能手机的使用体验。　　Kaul指出，简而言之，AI从云端转向边缘是现在进行式，当然目前AI在边缘设备上多还是以推论为主，而非训练。不过随着AI创新应用增加，有越来越对芯片商尝试提升终端装置处理器的运算效能，为的就是不用再传送资料至云端进行资料运算、推理和训练。也因此，各式的处理器纷纷问世，像是CPU、FPGA、GPU、ASIC、NPU或SoC Accelerator等。　　其中，ASIC的市占率可望随着边缘运算的需求增加而明显攀升，从2018年的11%增加至2025年的52%。Kaul进一步解释，ASIC之所以受到青睐，原因在于新兴的深度学习处理器架构多以图形（Graph）或Tensorflow为基础架构；且上述提到AI边缘运算受限于功耗和运算效能，因此多以推论为主，而非训练。然而，若假设到2021年时，终端设备将导入大量AI芯片，所需要的便是能在同一个芯片上进行推理和训练，可因应分散式运算且又具低功耗的IC，因此ASIC需求将持续上扬，实现更多AI边缘应用案例。