摘要:近几年行动通讯人工智能物联网及相关是热门应用,而且未来也展现出万物皆智能的趋势。这其中边缘运算也称边缘计算是一股即将兴起的风潮。甚至应用于物联网非实时性小型传感器网络的智能边缘运算的普通单芯片如系列也可都算是边缘运算。
近几年行动通讯、人工智能、物联网及相关是热门应用,而且未来也展现出「万物皆智能(AIoT = AI + IoT)」的趋势。
不论是家电、交通、零售、虚拟扩增实境(AR/VR/XR)、人机互动、医疗、食安、农业、金融、安全监控、电商平台及城市环境等等,无一没有智能管理、分析及预测。这其中「边缘运算」(Edge Computing)(也称「边缘计算」)是一股即将兴起的风潮。
「边缘运算」即将兴起
云端及边缘运算
2012年「深度学习(类神经网络)」技术的突破带动了新一波「人工智能」崛起,其中最大功臣莫过于绘图芯片(GPU)。接踵而来的是大量的建置以GPU为主的深度学习计算用服务器来进行高速运算,不论是影像(对象)辨识、人脸(性别、年纪、情绪)识别、自然语言分析、语言翻译、文义提取、文艺创作等等都要靠强大的云端(无论公有云或私有云)计算才能完成。
虽然云端可获得接近无限的计算能力,但有太多场合基于个人隐私(资料保密)问题不能上网,或者是计算延迟性太高不符实务需求,更重要的是一直上网利用云端服务(计算、储存)要一直付钱,这可是使用者最不乐见的,因而在此需求下「边缘运算」应运而生。
边缘计算强调可针对特定需求只作单一或少量功能,因此不需像训练时所需的巨量运算,只需利用训练好的模型在特定排程或时间内完成推论(Inference)即可,运算量相对减少很多,所以大多数情况下可利用AI芯片(或神经网络加速)(CPU, GPU, FPGA, ASIC, SoC等)即可达成。(有兴趣的朋友可参考之前的文章「人工智能AI芯片与Maker创意接轨(上)(中)(下)」)。
AI芯片类型
到底要多边缘才叫边缘运算?
目前业界所谓的边缘运算并没有一个标准定义。
各家公司自定义的边缘运算也有极大的算力差异。有的把GPU服务器不上公有云就算是边缘运算(私有云的概念),有的把单板计算机(小型工业计算机、NAS等)加上GPU卡算成边缘运算(个人计算机概念)。而绘图芯片(GPU)最知名供货商NVIDIA也把旗下的TX2及Xavier这类SoC(内含多核CPU+GPU)所组成小型(超)高阶单板计算机也称为边缘运算。
当然也有一般我们较常听到用于嵌入式系统(如树莓派、Arm等级的开发板)配合AI芯片(如Intel Movidius等)的边缘运算。甚至应用于物联网(IoT)非实时性小型传感器网络的智能边缘运算的普通单芯片MCU(如Cortex-M系列)也可都算是边缘运算。
综合以上所述,只要AI推论计算部份不上网都可以算是边缘运算。但个人比较倾向功率小于10瓦(或许小到1W)、算力小于1TFlops(或许小到10GFlop)、可利用行动电源(5V/2A)供电并可放到口袋中(100x100mm)的装置才算是边缘运算装置。
或许有人会问这么低的算力能作什么应用,举例来说,要花一小时走路才能到的地方,开法拉利或许很帅气,但若不赶时间时,骑个共享单车不用花什么钱、也不会花太久就可以到,还可顺便运动一下。
但若要到50公里远的地方,那脚踏车可能就不怎么方便了,此时可能要考虑机车或轿车才较能符合需求。同样地当人工智能应用场景明确时,计算量、反应时间、硬件成本就可以较容易估算出来,此时如何选择适当的边缘运算平台就显而易见了。
未来「边缘运算」虽可解决网络巨量通讯、储存空间、信息隐私、推论延迟及持续付费等问题,但需有更多解决方案来强化硬件算力(AI芯片加速)及算法优化(模型减量)。另外整体开发环境(AI框架、工具包)、设备体积、执行功耗及销售价格也是影响这项技术是否能普及的重要因素。
相信不久的将来大家就会更加了解如何依自身的场景需求找到云端及本地端(边缘)计算的合理配比,而不是全部都在云端或边缘端,如此就能让更多AI应用落地。
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。
转载请注明本文地址:https://www.ucloud.cn/yun/5299.html
摘要:什么是边缘计算边缘计算,其定义也比较宽泛,可以理解为最近端的云计算,但是边缘计算从许多共识来看,并不隶属于云计算,而是云计算的补充或者云计算的预处理。 计算是互联网中一个永恒的话题,设备的所有运行都可以看成是 0 和 1 的运算。在计算中近些年有两个越来越响亮的技术:云计算和边缘计算。现如今是云计算方兴未艾,边缘计算已经有了燎原之势,本文将对这两种技术做下简单的对比介绍,让大家能够对边...
摘要:云计算的潮流仍方兴未艾,而边缘计算又从何说起提到边缘计算,还得从物联网说起。事实上,边缘计算的模型与云计算模型不是非此即彼的关系,而是相辅助相成的。搭载物联网的发展,边缘计算也迎来了大好春天。云计算的潮流仍方兴未艾,而边缘计算又从何说起?提到边缘计算,还得从物联网说起。时至今日,物联网在IT领域的发展趋势已然成型,且前景依然广阔。有人称物联网是人类继工业革命和信息革命后的又一场伟大革命。当然...
摘要:不只云端电信业者纷纷押宝边缘计算的市场,连全球较大开源社群基金会今年月也决定成立新项目来大力推动边缘计算,要打造一套通用物联网边缘计算框架,超过家软硬件厂商和新创加入,包括等。为何有人开始主张边缘计算将会吃掉云计算,也有人相信纯云计算时代正迈向终结,而且不只云端龙头、商用软件巨头都抢着要押宝,连全球较大开源社群也大力支持,原因是什么? 云端服务龙头Amazon每年冬天在美国拉斯韦加斯举...
摘要:不只云端电信业者纷纷押宝边缘计算的市场,连全球较大开源社群基金会今年月也决定成立新项目来大力推动边缘计算,要打造一套通用物联网边缘计算框架,超过家软硬件厂商和新创加入,包括等。 为何有人开始主张边缘计算将会吃掉云计算,也有人相信纯云计算时代正迈向终结,而且不只云端龙头、商用软件巨头都抢着要押宝,连全球较大开源社群也大力支持,原因是什么?云端服务龙头Amazon每年冬天在美国拉斯韦加斯举行的r...
摘要:边缘计算,让园区充满智慧边缘计算是指在靠近物或数据源头的一侧,采用网络计算存储应用核心能力为一体的开放平台,就近提供最近端服务。公布十大技术趋势,边缘计算位列其中。边缘计算可广泛应用于在智慧园区工业制造商超车联网等领域。 边缘计算,让园区充满智慧边缘计算是指在靠近物或数据源头的一侧,采用网络、计算、存储、应用核心能力为一体的开放平台,就近提供最近端服务。其应用程序在边缘侧发起,产生更快...
阅读 2431·2021-11-22 13:53
阅读 1125·2021-09-22 16:06
阅读 1369·2021-09-02 15:21
阅读 1895·2019-08-30 15:55
阅读 3116·2019-08-29 11:19
阅读 1911·2019-08-26 13:23
阅读 930·2019-08-23 18:23
阅读 1746·2019-08-23 16:06