“现在听到AI时代要来了，就像是听到了‘狼来了’。”AI开发者小王对于AI普及的论调早已习以为常。

“AI产物开发不仅门槛高，还很难移植到差异产物中，AI何时才气普及？”

现在AI普及尚有最后一块绊脚石。

早在两三年前，能够给AI普及提供底层动力的端侧AI芯片公司就意识到，鲜有公司能够把自家“新鲜出炉”的AI芯片真正投入使用。

经由几年的起劲，AI已经变得越来越“伶俐”，能够让摄像头明晰镜头捕捉到的画面，让麦克风明晰用户语言的内容，让音箱能够和用户举行多轮自然对话。

但AI要普遍落地，依然是一项深邃的事情。

由于用途和形态的差异，差异AI终端对性能、功耗、精度等各项指标需求各不相同。

开发者要想让AI形成“战斗力”，需要针对各个场景做单独优化，这就很难快速复制。不仅闪开发者深陷开发泥潭，也让AI在更广漠的应用场景下陷入“有弹无枪”的逆境，难以做到真正普及。

而真正能够推动AI在终端发作的，是“一次开发，多处运行”的统一开发平台。

统一开发平台不仅能够将AI开发者救出“泥潭”，还让AI冲进了元宇宙。

01

AI起跑，先赛出头「狼」

AI没能在已往几十年间被一遍又一遍喊AI来了，上演《狼来了》的故事，一个焦点缘故原由是手艺还不够成熟。

AI的第三次浪潮得益于深度学习手艺的兴起，随着深度学习算法的演进，很快遇到了算力不足的挑战。因此，想要推动AI的生长和普及，首先需要有足够壮大的AI芯片，先赛出有足够硬实力的头狼。

2017年前后，掀起了研发AI芯片的热潮。

由于深度学习的算法还不够成熟，加之应用场景的不明确，想要快速界说出一款合适的AI芯片面临挑战，稀奇是面向应用场景厚实的端侧AI处置器。

场景和需求加倍明确的智能手机拥有率先落地AI手艺的先天优势，将AI应用于摄影，给手机用上智能语音助手，不仅能提升用户的使用体验，还能给手机增添新的卖点，于是，手机芯片处置器公司间燃起了一场AI竞速赛。

一时间，苏黎世联邦理工学院（ETH）的AI-Benchmark榜单成为了各大手机处置器厂商展现真正实力的阵地，上演着你方唱罢我方登场的猛烈角逐。

历经几年的比拼，真正有实力的AI*留在了AI-Benchmark的显眼位置。

查看AI-Benchmark的最新排行榜，雷峰网发现榜单排名前九的手机都搭载了高通的*代骁龙8移动平台。

*代骁龙8平台霸榜AI-Benchmark并不让人意外，这款最新的旗舰移动平台搭载的是高通最新的第七代AI引擎，推理速率是前代的4倍，能效提升70%。

着实，高通第六代AI引擎的AI性能已经高达26TOPS，远超同级别水平，在端侧AI处置器中属于*水平。固然，集成高通第七代AI引擎的*代骁龙8能够霸榜的要害不仅仅是高性能。

高通公司产物治理副总裁 Ziad Asghar在2022天下人工智能大会上说，“在既定功耗下完成更多的AI处置对边缘侧AI运行至关主要。从高通第六代AI引擎生长到高通第七代AI引擎，两年时间内，我们在既定功耗下将AI能力提升了一倍以上，这正是AI在终端侧施展其能力的要害。”

霸榜AI-Benchmark，也是高通在AI领域耕作十余年实力的体现。

经由几年的快速迭代，AI边缘芯片的性能已经足够知足应用需求，真正阻碍AI普及的着实是软件。

02

要普及AI，先拯救

泥潭中的开发者

“我们设计出的AI芯片，大部门客户还没有能力用起来。”这是多家AI芯片公司两年前就遇到的难题，也是AI普及的难题所在。

没有完整软件栈，面临厚实多样的应用场景，无论是AI硬件和软件的提供者，照样AI应用的开发者，都面临着AI产物高门槛的难题，好不容易开发出一个应用，也很难部署到其他应用，开发者深陷泥潭。

“差异形态的AI终端产物，对AI性能、功耗、精度的需求大不相同。”Ziad Asghar说，“我们的解决方案需要支持从500毫瓦的性能水平扩展到15瓦特、甚至200瓦特的性能水平。差异形态产物所需的深度学习架构和算子也差异伟大，例如，面向移动领域需要使用天生模子，面向盘算领域需要使用Transformer模子，面向汽车ADAS需要激光雷达模子。”

旷视科技团结首创人、CTO 唐文斌也在2022天下人工智能大会时代示意，“现阶段的AI，一个焦点的挑战在于应用场景碎片化导致算法多样化。算法多样化，一方面意味着需要规模化生产大量算法，另一方面需要思量若何低成本生产每个算法。”

高通第七代AI引擎中的Hexagon处置器可以调整加速器和内存组件，知足差异智能手机的需求。面向云端、汽车等对性能需求更高的场景，可以拼接多个Hexagon处置器知足瓦级性能需求。

硬件的天真，连系完整易用的软件，才气真正解决AI的挑战。

“AI芯片软件栈的开发有两个焦点挑战。”一位AI芯片行业资深从业者对雷峰网示意，“一方面，与设计一款新的CPU差异，AI芯片多数接纳怪异的指令集和架构，没有可以借鉴的编译器等软件。另一方面，AI的算法还在不停演进，软件想要适配难度也更大。”

谁能率先推出完整统一的AI软件栈，就能率先把AI开发者救出泥潭。今年6月推出的高通AI软件栈产物组合，实现了AI里程碑的跨越。

Ziad Asghar说：“完整的高通AI软件栈产物组合无疑是一项伟大突破，它将推动OEM厂商和开发者的AI开发。我们很喜悦借助这一全新产物组合进一步扩展高通公司的统一手艺蹊径图，并扩大在智能网联边缘的*优势。”

高通AI软件栈支持包罗TensorFlow、PyTorch和ONNX在内的差异AI框架与主流运行时（Runtimes），尚有开发者库与服务、系统软件、工具和编译器，能够让任何面向单一终端开发的AI特征轻松部署到其它终端。

好比，借助高通AI软件栈，可以将一个原本面向手持装备的面部识别功效，迁徙至汽车、PC或安防摄像头等其他终端。

完整的AI软件栈的构建难度十分伟大。从离硬件最近的编译器和库，到辅助开发者高效实现更多应用的Runtimes，再到上层的AI框架，每一层的软件构建都磨练着提供商的能力以及资源的投入。

Ziad Asghar强调，“高通完整的AI软件栈对我们的客户而言是一个伟大的优势，他们可以凭证现实需求举行模子开发和优化。”

完整的AI软件栈有两个层面的主要价值，首先要实现对开发者的适用性，这就需要支持所有框架，AI runtimes，提供开发者库、编译器，支持所有操作系统；尚有就是易用性。

AI软件栈的易用也可以从两个维度去看，一个提升性能和开发效率，另一个是“一次开发，随处运行。”

高通AI软件栈产物组合中的一系列工具套件，包罗高通AI模子增效工具包（AIMET）、AI开发图形用户界面（GUI）、用于增强量化与优化的模子剖析器以及神经网络架构搜索（NAS）能够辅助开发者更快开发出更能知足现实应用需求的产物。

AI模子增效工具提供模子量化和压缩等手艺，能够辅助开发者搭建体积更小、能效更高的模子。数据显示，借助AIMET工具，将MobileNet-v2、ResNet-50和Deeplabv3模子从FP32转化为INT8模子，精度损失不到1%，能效提升16倍。

另外，高通与谷歌相助的NAS也已经取得功效。Ziad Asghar先容，“在移动端的自然语言处置方面，我们在不影响精度的情形下将时延降低了13%。在汽车的物体检测用例中，我们将模子的时延改善了13%，同时精度提升1.3%，对于特定的汽车用例这是伟大的优势。”

有了完整的AI软件栈，AI开发者已经被从泥潭中拯救出一半，真正好用的AI软件栈还能实现“一次开发，随处运行”，将开发者完全从泥潭中拯救出来，向无处不在的AI目的迈进。

高通AI软件栈支持诸多SDK，包罗面向汽车ADAS解决方案的Snapdragon Ride SDK，面向物联网的高通智能多媒体SDK，以及Snapdragon Spaces XR开发者平台，这为确立统一SDK提供了基础，也为实现开发者“一次开发，随处运行”的梦想打下了基础。

Ziad Asghar 指出，“要实现任何面向单一终端开发的AI特征都可在其他终端上轻松部署，包罗编译器、调剂器、硬件调试，以及模子的准备和优化，软件能充实行使硬件资源等都异常主要，我们需要确保这些组成部门能够配合协作实现高效运行。”

03

AI已经成为元宇宙中的「基建」

高通AI软件栈能够让一次开发，就可以应用得手机、物联网、汽车、XR、移动PC等差异形态产物，这足以注释，终端和边缘AI的时代真要来了。

作为AI业界的*，高通不仅要在现实天下中实现AI无处不在的目的，还要让AI在元宇宙中也施展作用。

高通公司总裁兼CEO安蒙在2022天下人工智能大会的演讲中指出，元宇宙是互联网的未来，即空间互联网。元宇宙需要学习和顺应不停转变的环境及用户偏好，而AI对于塑造用户体验至关主要。

元宇宙将视觉体验从第三人称平面升级到*人称3D视角，让人们获得更厚实的信息，而且扩宽了交互的界线，提供了触觉等新的交互方式。

例如，元宇宙中需要具备对手部、眼球和位置的追踪，以及情境明晰和感知等功效。为了提高用户虚拟化身的正确度，提升用户本人和其他介入者的体验，AI将应用于扫描信息和图像的剖析，从而打造高度真切的虚拟化身。

另外，AI还将推动感知算法、3D渲染和重修手艺的生长，以构建令人赞叹的真切环境。

显然，元宇宙将发生海量数据，无法所有都在云端处置，这就需要AI处置拓展至边缘侧，情境厚实的数据在边缘侧发生，漫衍式智能应用应运而生。将5G与边缘AI的*连系，能够支持边缘侧发生的情境厚实的数据近乎实时地分享给其它终端和云端，为元宇宙中的全新应用、服务、环境和体验提供支持。

端侧AI也有显著的优势，包罗平安性、珍爱隐私，能有与边缘和云端的AI，配合给使用者缔造元宇宙的全新体验。

第三次的AI浪潮下，AI硬件的完整以及完整AI软件栈的推出，AI开发者已经具备“一次开发，随处运行”的基础，在可以预见的未来，AI将迅速在XR、PC、汽车等领域快速普及，让现有的产物拥有全新的体验。

有看法以为，2022年人工智能动员行业应用综合解决方案服务的市场规模将到达2万亿。信息手艺研究和剖析的公司Gartner一份讲述指出，5G是推动边缘盘算生长的主要缘故原由之一。

作为AI和5G*的高通，正在将AI和5G作为元宇宙的基建，为我们打造一个更具科技感的未来，缔造无限可能。