通常芯片市场竞争总在遵循同一个运作规律:一个新的市场诞生,一批参与者开始竞争。但百花齐放的时代终会过去——这与生态发展是强相关的。
当初期硬件技术竞争对市场做过一轮筛选后,即开启软件生态竞争时代:企业需要花费成倍的人力物力,到开发工具、中间件,及生态培养工作中;则伴随市场竞争加剧及成本大幅增加,市场必然面临大量参与者的离席。
早年的CPU、图形GPU市场竞争如此,现在的AI芯片竞争也如此。只不过后者还处在市场竞争的前期。所以今年的媒体及市场活动上,我们更多地听到了Intel把话题放到软件及生态建设上。在AI技术竞争加剧起始环节,在对Intel而言是个积极信号。
今年9-10月,Intel连续开设了6场“大局观”系列媒体访谈,至少一半以上的话题都与软件、AI相关。而最近这一场更是将注意力聚焦到了“软件生态建设&人才培养耕耘”上。在社会数字化、生活智能化大时代下,Intel对于下半场市场竞争的思考,大约能从中看出端倪。
生态建设重点之一:AI软件栈
现阶段Intel软件生态建设的重点之一,无疑是AI软件栈,尤其在CPU、GPU、FPGA、AI芯片这些底层算力准备就绪以后。“开放”、拥抱开源社区是Intel现如今发展AI的基本思路。
而在AI生态搭建思路中,Intel显然期望借助在PC市场的领导者地位来扩大自己在AI技术上的影响力,尤其这几个月始终在强调即便轻薄本也能跑生成式AI这一点。毕竟在去年底到今年初,生成式AI引爆市场以来,行业普遍认为这是接下来信息技术领域毫无疑问的发展方向。
ChatGPT这类LLM大语言模型、以Stable Diffusion为代表的CV类应用,以及面向普通消费用户逐渐开放的微软Microsoft 365 Copilot,Intel领衔的开源AI工具OpenVINO,都在诉说这一点。我们知道近几个月,Intel为了让PC跑生成式AI,在各层级做了相当大的投入:无论是引导AI开发者去使用OpenVINO、对于模型的研究,还是与开发者的合作,和在其他工具、API支持上的努力。
这些基本都述说了在这个应用导向的时代下,芯片企业需要关心的问题,早就超过芯片本身及低层级的软件工具了;造芯片除了解决芯片设计与制造的技术难题,还有一大堆比以前复杂很多的工作需要完成。
上面这张图展示了Windows原生AI应用下,从底层硬件,到上层应用与开发工具,Intel在不同层级提供的解决方案和产品。实现同时借助Intel的CPU、GPU、NPU来跑AI应用时,OpenVINO作为IR中间层表达,及模型优化工具,在Intel的工具链中是扮演重要角色的。且OpenVINO本身作为一个跨平台的方案,也能让开发者的AI模型在Windows、Linux、macOS等不同平台下做移植。
在软件栈的不同层级间,其实也并不仅限于OpenVINO推理引擎——AI开发者也可以选择WinML、DirectML之类的软件栈路径,其中的某些组成部分也有Intel的身影。
英特尔软件和先进技术事业部副总裁兼中国区总经理谢晓清在分享会上提到,ONNX(Open Neural Network Exchange)作为微软着力在推的runtime,在Intel与微软的合作过程中,得到了Intel“非常大的优化”,“不仅能利用Intel最新的指令集,同时也充分利用PC端最新大小核架构,实现Intel硬件对native AI软件栈的充分加速”。
另外Intel也面向开发者直接提供Intel Neural Compressor压缩工具,“可以对神经元做压缩和优化,使得大模型在终端更高效地运行”。关注Intel AI生态建设的读者对上面这些应该都不会陌生。而这次尤为值得一提的,实际上是Web平台的AI加速支持:
这张图给出Web AI的软件栈构成,同样可依托Intel的芯片来实现AI加速。借助Web原本接口标准化的特性,”开发者按照原来的方式,借助标准的Web API来做开发,软件就可以应用Intel硬件在AI方面的加速能力。“
在Web API这一层级,“我们布局了WebAssembly,允许native程序运行在CPU上;WebGPU则可以直接利用GPU的算力——我们刚刚完成了WebGPU标准化工作,在Chrome、Edge浏览器上实现了产品化;新引入的Web AI标准化协议还在起草中,即其中的WebNN——也在W3C框架下。”谢晓清说,待WebNN相关工作完成以后,“Web开发者就可以用WebNN写Web应用了,也就能完全利用Intel平台对Web的加速功能,包括CPU、GPU、NPU的全部能力”,甚至“给到与native代码相近的性能”。
Intel用MediaPipe模型对WebNN的性能做了测试,得到的结果如下:
不过这个测试暂时是仅针对CPU的,红色与绿色柱状条分别代表基于WebNN,以及上述原生AI软件栈的性能比较,可见其性能表现还是比较理想的,“只有少数几个项目还需要再做优化”。相比于蓝色柱状条基于WebAssembly API的性能,WebNN的性能显然高出不少,某些子项甚至有5倍性能提升。谢晓清表示,WebNN“可以让Web开发者解锁AIGC的算力”。
这应该是Intel在短时间内,于自家AI生态部署过程中的又一次尝试和补充了——从中多少也能看到,软件方面的努力,对于最终应用运行效率提升的巨大价值;以及软件在这个时代的确还是相当重要。
生态建设重点之二:PC上的Android生态
桌面与移动平台的互通,显然是芯片、操作系统、OEM厂商这些年都在忙活的一大主题。本次媒体采访相关软件生态建设的另一个话题就是Windows PC上的Android支持。
在PC上跑Android的项目及分支算比较多样。比如多年前就有将Android操作系统做移植的开源项目Android-x86。Intel前两年开启的Project Celadon此前也复用了Android-x86项目的drm_graphics HAL模块。
现在看Celadon的官方介绍,这是个能够让Android应用跑在Intel架构之上容器或虚拟机里的项目。另外Intel还有个Bridge Technology——这是个runtime post-compiler,能够让Android应用原生地跑在x86平台上。
操作系统层面,2020年微软也发布了WSA(Windows Subsystem for Android),还联合亚马逊应用商店在全球做推广。从Windows Insider Blog的介绍来看,WSA本身作为某种兼容层,应该有用到Intel Bridge Technology这一技术。
“Android平台的应用开发者对用户体验非常敏感。这是个具备非常旺盛的用户场景创造力的群体。”谢晓清在介绍Intel于这一领域的努力时说,“Intel一直希望x86架构能够继续在Android生态中发挥作用。”加上中国是全球最大的Android市场,Intel也与腾讯应用宝合作,推出了腾讯应用宝电脑版移动应用引擎,对Android应用做PC大屏优化。
“同时,合作也基于Intel Bridge Technology,以及Cedadon开源项目技术,让用户体验得到极大的提升。”“我们希望通过和谷歌、微软、腾讯等合作伙伴的共同努力,使得Android在Windows上的应用也成为PC用户的重度应用场景之一。”
生态建设重点之三:面向中国的人才培养
一般我们在谈到“开发生态”时,无论嵌入式系统,还是桌面或数据中心平台,额外的关注项一定包含了人才培养——因为任何生态的发展是离不开对于开发者的培训与挖掘的。
商业企业的人才培养通常包含了与教育机构的合作、创办在职教育、举行科技竞赛等常规手段。这些都被认为是培养开发习惯、有助于从更前期环节形成开发粘性的有效方式。
不过我们从未见过像Intel这样,“人才培养”项目如此多样化、同时具备深度和广度的企业:多样化到似乎很难通过几段话来总括Intel在中国教育、产学协同、技能培训等项目的全貌。比如Intel相关负责人在本次沟通会上花了较多篇幅去谈的英特尔中国学术大会、中国学术英才计划、奖学金项目、全国大学生电子设计竞赛嵌入式系统专题邀请赛、全国并行应用挑战赛等组成部分。
从上世纪90年代开始,Intel源源不断的人才培养计划就在中国国内开展了。这里举两个在我们看来比较有趣及印象深刻的例子。其一是Intel在中国国内的首个高级首席科学家,以及中国研究院院长,还有国内的第一个Fellow(院士),都曾是Intel奖学金得主。Intel发言人在演讲中谈到2021年成为Intel首席工程师(Principal Engineer)的Li Cong早在2000年前后就是Intel在中国中福会少年宫成立的小博士工作室的学员。
另一则是Intel尝试在中国国内开启“新时代的千里江山图”,其中一站是在黔西南苗寨,去尝试开发有关苗寨的校本课程。所以不仅是高端人才培养,还包括“在四川大凉山、云南红河州、贵州苗寨等等学校,关注人才培养的普及”,“我们通过‘双师课堂’‘送教下乡’等方式,将先进理念带到这些地区”。“拔尖和普及,两端我们都在做”。
或许不管与教育部的合作做全链路式的人才培养,还是“为超过270万中国教师发展提供支持”,以及这两年在教育数字化转型上的努力......大量正在进行中的人才培养计划此处无法一一列举;不过Intel开展这些项目和合作依旧是有线索可寻的。Intel发言人说,无论产学合作协同育人项目、SFI(Skills for Innovation Initiative)项目、英才计划,还是学生教学技能、实习实训基地、大学生竞赛,都是“人才入口到人才出口的闭环人才培养”逻辑。
所谓的“入口”,即是提供各类工具、技术与平台,作为学习基础设施,最终做到“学以致用”——无论是学生还是教师,在Intel的人才培养计划里都有对应的“入口”可循;而“出口”则依托于包含学生竞赛、作品展示,以及提供奖学金、实习机会等方式,为人才提供“出口”。
“无论哪个部门,不管在这块大的拼图上怎么拼,都符合这样的逻辑。举例说在数字化能力青少年项目(AI for Youth)中,Intel在中国的试点始于2021年,与教育部合作,主要以教师培训为主,赋能不同教学专业的老师,达成各学科课堂数字化水平的提高。Intel就强调“对于中小学老师要提供入口,也要有出口”:入口如Intel“今年开展首例中小学教师智能教学素养提升课程”,出口则表现为“面向各学科老师开放人工智能创新教学案例大赛”。
当然上述三点都只是Intel建设与培养生态的管中一窥,可作为当前Intel尝试拓展生态系统的前沿布局来看——即便是其中AI生态的建设章节,实际也仅限定在了PC端推理侧。但这些已然能够反映Intel的行动目标。其中人才培养章节,还可单独拿来作为企业ESG实践的一部分来探讨——社会责任又是另一个庞大的话题了。
如文首所述,社会数字化转型及AI时代的前期竞争会持续变得白热化,并在最终市场走向成熟以后,留下那些生态布局完善、技术实力坚挺的市场玩家。显然,在这样的时代背景下,抓住机会、紧跟时代脉搏是Intel正在努力践行的。
(来源:News快报)