新浪新闻客户端

植根中国 服务中国 英特尔拥抱AI 加速AI PC落地

植根中国 服务中国 英特尔拥抱AI 加速AI PC落地
2023年11月08日 11:51

  英特尔在这两年对于半导体技术的宣传仍然不遗余力:无论是半导体制造展望1-2年后的Intel 18A工艺,还是先进封装hybrid bonding互联间距缩减至3μm的未来技术,亦或更前沿的2D材料、神经拟态计算、量子计算......这些都算是其作为人们传统印象中芯片企业的常规。

  今年2月举办的英特尔中国战略媒体沟通会上,英特尔将大量篇幅放在了软件上,并在各种活动中讲述英特尔在软件方面的努力。

  9至10月,英特尔开设了6场“大局观”系列媒体访谈:当然其中话题不仅限于软件。但这应该也是其为数不多地、如此积极地、系统性地对外传递,半导体技术之外的投入,从AI、软件、生态、标准、战略等多角度,表达了现如今的所想所思。

  这可能与时代浪潮有相当大的关系。首先,当加速计算变得越来越重要时,我们看到英特尔开始提倡XPU战略,而不再单纯强调CPU——GPU、NPU、FPGA等也变得很重要。这一点客观上带来的转变,即是软件和生态的投入:在加速计算世界里,英特尔也要积极搭建中间件与开发工具,让更多的开发者真正将XPU算力用起来,构建起自己的XPU生态。

  第二点也很重要,即去年底今年初生成式AI引爆科技行业——很多人将其称作第四次科技革命。实际上AI的崛起,非常契合英特尔的XPU策略规划。但要在强敌环饲的时代背景下建立起AI生态,这又是个仅依赖芯片和半导体技术无法成行的故事。所以英特尔必须加快脚步,在维系固有优势的前提下,将注意力更多地放到软件、生态上来。

  第三点或许与英特尔期望主动传达ESG文化相关:比如绿色PC、人才培养。我们知道,ESG涵盖了财务分析一般不会考虑的系列商业维度;它们只与公司长期业绩相关,却很难在中短期内获得显而易见的收益。所以这些也称得上是未来向的思路宣导了。

  基于这三点来看英特尔发起的6场媒体访谈,起码从逻辑上更易于我们理解。所以,我们也大致总结了其CCG业务、乃至以PC为核心打造的周边生态,在这个时代里扮演的角色,及英特尔努力的方向。这也有助于我们更好地理解,未来的PC会是什么样。

  尝试树立PC新标准

  自PC兴起以来,英特尔一直是计算机领域内诸多标准或概念的制定、参与者。比如USB、Wi-Fi、迅驰移动技术、超极本概念、Thunderbolt连接技术、Evo认证等等——当然本文只围绕PC,实际英特尔参与的行业标准制定会比这些要更加宽泛,典型如UCIe。此前英特尔CEO Pat Gelsinger就是USB技术的奠基人之一,他曾非常自豪地对自己的孙女说:“这东西叫U盘,是你爷爷发明的。”

  而在最近这6场媒体访谈中,我们听得英特尔重点谈到有关新标准的其一是绿色PC,其二是Thunderbolt 5。

  绿色PC是英特尔期望推行的下一个标准,英特尔公司中国区技术部总经理高宇甚至将其与历史上的USB、迅驰技术并列。今年2月,英特尔在北京召开发布会,与清华同方、Acer一起展示了绿色PC。除了英特尔自家的处理器部分践行低功耗,及工厂对应低碳节能策略以外,“绿色PC”要做到的是PC全生命周期的“绿色”。

  我们在最近的进博会上,也看到了英特尔展示题为“从‘摇篮’回到‘摇篮’,全生命周期的可持续PC理念”,包括散热器、主板、机箱、电源、扩展、面板等组成部分的绿色践行方式——今年8月,英特尔组织的英特尔科技创新中心展示中,绿色PC内部主板的可回收PCB板材,主要成分包括金属铜、玻璃纤维、树脂及填充物,目标是将金属和玻璃纤维回收率提高到95%,有机物回收率提升到90%。

  高宇说:“我们从整个生命周期的四个阶段(定义和设计、制造和交付、使用和维护、回收和循环)进行解构,去搞清楚每一个阶段有什么方法可以实现碳排放的降低。”“英特尔投入了相当的资源、人力物力,将每个阶段的技术研究透以后,形成端到端产品解决方案。”“比如强力推进高转换效率ATX12VO小型化无风扇电源”,还有“我们做的绿色控制中心,实现碳的可视化”,以及“我们和生益科技合作,他们研发应用可回收的PCB”——是真正“第一个将可回收PCB做到了产业化的”。

  与此同时,英特尔将成果和创意贡献给绿色计算机标准工作组,期望通过开放性的讨论,“形成产业认可的团体标准”,甚至未来“演化为强制标准”,“PC必须要跟进的”。绿色计算机标准工作组是今年4月由中国电子学会成立的。9月中,中国电子学会绿色计算机标准工作组第一次标准讨论会在深圳举行,包括中国电子学会、英特尔在内的几十家机构与企业做了分组探讨,包括标准构建的宏观视野,以及前文提到的贯穿全生命周期的绿色计算机总体评价、PCB与电源三个方向,也包括绿色PC标准的准则逐条探讨。

  高宇说,预期明年4月,系统评测标准、可回收PCB标准和电源标准就会推出1.0版;而且从当时的媒体报道来看,4月还有望看到绿色一体机;虽然“符合标准的产品落地,时间上无法给出准确预估”。高宇也谈到,绿色PC本身不易成为产品卖点,因为用户并不能直接感受到差异。“我们要做的是唤起行业的重视,把口号变成行动”,因为“PC总量巨大,中国商用PC保有量1.6-1.9亿台,70%是台式机”,这个量级的减碳与节能“是个天文数字”。

  相较于绿色PC这个可能更为长远和未来向的标准,访谈会上提到即将在明年全面问世的Thunderbolt 5技术就无需赘言了,针对Thunderbolt 5的报道和剖析已经不少;而且Thunderbolt也已经是PC上的事实标准。其外在核心升级点包括视频传输最高120Gbps带宽,80Gbps数据传输带宽,相比前代提升2-3倍;故此支持多台8K显示器连接,或三台4K 144Hz显示器;支持PD3.1供电,最高240W等......对创作者和游戏玩家有相当价值。

  令人印象深刻的是,这次英特尔列出的Thunderbolt配件列表中出现了“外接AI加速器”。当然这本身并不稀奇,毕竟外置独显基于PCIe Gen 4在过去的Thunderbolt时代就完全行得通。而对于这里的外接AI加速器,英特尔是想特别强调借助Thunderbolt来提升AI算力,加速器可以是NPU、FPGA等芯片。“通过PCIe外接装置,在一些超薄笔记本上,提升AI算力”。

  PC正为拥抱AI做足准备

  外接AI加速器的引入,自然能够增强音视频协作、提升AI创作与游戏性能,当然还有更强有力的本地AI推理。仿佛在生成式AI引爆新一轮热点以后,所有端侧市场参与者,从芯片到设备,从软件到解决方案,都在强调端侧必然要普及本地化的生成式AI。所以就连Thunderbolt 5配件都得提一提AI加速。

  不过实际上,近几个月英特尔对市场发出的信息始终是即便不带独显的轻薄本,也能跑生成式AI。不单是未来的处理器新品会搭载NPU这类专用的加速器,还在于英特尔凭借当代酷睿CPU在多线程性能上的强势,以及在AI软件方面的努力,让轻薄本也能跑LLM和Stable Diffusion,且支持Llama2-3b, StarCoder-15.5b这种参数规模的大语言模型。

  所以藉由12代、13代酷睿CPU,无需连接网络,在本地推理LLM——直接与大语言模型对话,或者让Stable Diffusion画图,都已经是手到擒来。而抛开Xe核显加速不谈,英特尔能够单纯借助轻薄本上的酷睿CPU跑生成式AI,各种中间件、库、软件及生态方面的努力才是最为关键的。

  即便英特尔借助于制造工艺改进,及P-core + E-core的异构核心设计方案,让CPU的并行计算能力近两年获得大幅提升,作为一种通用处理器,CPU还是需要把大量晶体管堆砌在控制管线上。所以CPU相比加速器,在并行算力上有着先天的弱势。AI计算,包括推理在内,就需求大规模并行计算能力。

  这就会更加考验英特尔为实现PC CPU跑生成式AI所下的工夫。通常在PC CPU上推理生成式AI模型,需要经过模型转换、优化、量化等过程——这个过程应当是英特尔投入了大量时间和精力的,尤其是这大半年。其成果比如在今年的英特尔中国学术峰会上,英特尔院士、大数据技术全球CTO戴金权展示BigDL-LLM库——简化PC上的LLM推理,尤其做量化,用Int4、Int3这类低精度数据做推理,降低本地硬件资源需求。

  英特尔软件和先进技术事业部副总裁兼中国区总经理谢晓清在媒体会上展示了英特尔平台上的Windows原生AI软件栈。这个简化了的框图,深蓝色部分是其在不同层级提供的软件。比较知名,且近期提名相当频繁的OpenVINO本身既是IR中间层表达——能够让不同的模型跑在不同类型的英特尔处理器上,同时它也是个模型优化工具。

  谢晓清说,微软着力在推ONNX(Open Neural Network Exchange)Runtime,这部分也得到了英特尔的优化。它“不仅能充分利用英特尔最新的指令集,同时也充分利用PC端的大小核架构,实现英特尔硬件对Native AI软件栈的充分加速”。加上英特尔面向开发者直接提供Intel Neural Compressor压缩工具,“使得大模型在终端更高效地运行”。

  与此同时,英特尔还在推进Web平台的AI加速工作。“开发者按照原来的方式,借助标准的Web API来做开发,软件就可以应用英特尔硬件在AI方面的加速能力。”下图中的Web API这一层级内,WebAssembly让一般应用跑在CPU上;WebGPU则实现了GPU的加速——“我们刚刚完成了WebGPU标准化工作,在Chrome, Edge浏览器上实现了产品化”;

  而WebNN,能够让AI应用跑在各种处理器上,包括CPU、GPU、NPU,虽然“新引入的Web AI标准化协议还在起草”,但英特尔给出的测试结果显示,MediaPipe模型基于WebNN跑在CPU上,其性能表现已经与原生应用相近了——相比WebAssembly更是有着成倍的性能提升。如此WebNN也将“让Web开发者解锁AIGC的算力”,谢晓清表示。

  这些应该还只是英特尔布局AI PC生态的其中一部分。英特尔公司副总裁、英特尔中国软件生态事业部总经理李映博士在媒体访谈中说:“我们认为AIGC这样一个新的、完全不同的生产力,或者说娱乐工具,一定会带来包括PC和数据中心在内的新的增长。”这几乎已经成为行业共识。 “从软件工具与资源的角度,英特尔也有超过150个适于AI工作负载的应用软件工具和资源。”

  “几个月前,我们办了个针对开发者的OpenVINO竞赛。比赛中,来自不同行业和领域的开发者基于OpenVINO构建了不同的场景。比如说在应用领域用OpenVINO做机器视觉辩识,让工作场景更安全;还有在制造方面通过AI CV,降低制造缺陷。”李映说,“所以除了在PC推理上,OpenVINO在网络边缘会找到更多新的应用场景。”

  软件的开源与开放

  英特尔研究院副总裁、英特尔中国研究院院长宋继强在主题演讲中,总览了AI on PC应用,包括有Intel Extension for PyTorch, Intel Extension for TensorFlow, oneDNN(oneAPI内的深度神经网络库), oneMKL(借助CPU和GPU,加速数学处理的函数库), OpenVINO等。这些在我们过往的轻薄本跑AI体验中,多少都有接触过——借助其平台做AI和科学计算开发的开发者应该对此都不会陌生。

  当然这些并非英特尔软件投入的全部。李映在此前的中国战略沟通会上就提过,英特尔有19000名软件工程师。这也是现如今芯片企业的普遍现状,软件团队庞大且不可或缺——就像前文提到的,XPU战略决定了英特尔势必在软件上做更进一步的投入,因为这是串联起XPU的实现基础。

  李映在这次的媒体访谈中,将英特尔正在做的软件分成了“三个层次”,包括基础软件、中间层软件,以及借助软件,和上层合作伙伴一起“带来新的业务模式”。

  基础软件应当是指相对偏底层,“保证硬件发挥价值,完全释放硬件算力”的软件,“通过固件、电源管理、用户管理各个方面,让用户享受算力价值,也为上层应用和软件提供服务”。中间层软件,“比如通过数据库、框架等方式,为(上层)软件提供最直接的服务”,比如英特尔在“数据库、Java、开发语言上的投入”。

  还有一类“与合作伙伴带来新的业务模式”,典型如与腾讯应用宝的合作,将Android应用生态带到Intel x86平台上——当然这其中实则涵盖了英特尔在中间层软件方面的努力,包括Celadon这样能让Android应用跑在其架构之上的容器和虚拟机里的项目,及Intel Bridge Technology作为runtime post-compiler让Android应用原生跑在x86平台上。另外相关的合作还包括诸如云、服务的不同模式。李映说这是“软件定义、硬件增强的战略合作方式”。

  这些都是构建生态,同时为硬件服务的重要组成部分;也是英特尔期望在不止于PC领域,而在整个产业打造事实标准的方式。

  不过就软件方面的努力,英特尔强调最多的还是“开放生态”和“开源战略”。这里举两个体现其软件“开源开放”的例子:从英特尔为开发者提供的AI软件来看,下面这张图是其在AI应用开发不同阶段,布局的技术。很显然英特尔总是尝试将自家技术与软件融入或整合到开源框架中的;

  还有一个具体的例子是,原本针对自家不同XPU实现统一编程的oneAPI,当前在英特尔的倡导下是在不同硬件环境、不同厂商架构中,在统一编程模型上提供支持。比如说oneAPI for CUDA让开发者用oneAPI面向英特尔与英伟达的处理器,使用统一工具链。在我们看来,这是当前加速计算时代格局下,英特尔要快速构建生态的必然。就像李映说的,“开源是很有利的方式,让开发者集中到平台上来”,但它的确也能体现开放的思路。

  “到今天为止,英特尔已经参与了超过700多家基金会和标准组织”,“像是Linux基金会”;“我们有超过7万个全球专利资产评估,为整个产业,为合作伙伴和用户带来价值”。李映谈到,”根据我们自己的统计,也有超过450个以上的软件工具和资源,帮助开发者创造和开发自己的应用解决方案”,且绝大部分是“以开源、开放的形式共享的。”

  “我们坚信,开放、开源才能让这个IT行业最好的技术得到发展,这是英特尔未来战略及中国战略中非常重要的组成部分。”虽然这并不是特别针对PC平台的,但这样的策略势必将影响未来很长一段时间PC平台的用户体验:比如平台引入Android应用,端侧的生成式AI就是个典型。

  植根中国:引进来,走出去

  最后值得一提的,虽与未来PC关联没有那么大,却也是贯穿了这几场媒体访谈的核心之一:植根中国,服务中国。包括李映反复强调英特尔在中国,“尤其开放开源生态中,我们一定会持续投入”——从今年初英特尔中国开源技术委员会的成立就看得出来。

  今年初,英特尔公司高级副总裁、英特尔中国区董事长王锐谈到了Intel China 2.0时代的到来:“具体来说,就是更好地整合全球资源支持本地运营,更加针对本土驱动的创新展开更深入合作,为中国的产业伙伴提供更有利的支持。也就是说,我们秉持植根中国、服务中国的理念,推动共同发展。”

  包括了垂直行业整合、建设开放生态、数字化与绿色化双转型,以及培养本土人才、社会公益事业、惠民服务等。其实从前文我们谈到PC未来的一些转变,多少都可以体现这几个战略。

  从大方向来看,除了与本土企业、机构合作带来的市场价值,我们认为英特尔的中国战略大致上可以切分成引进来和走出去。引进来是指将英特尔在行业内的先进经验带到中国来。比如有关英特尔中国开源技术委员会的成立,李映就提到英特尔此前加入了诸多基金会和标准组织,其可以将运营经验以及合作模式,“引入到中国来,让中国开源组织未来的道路走得更加顺畅”。

  还有像是在建设自家生态的过程中,英特尔面向中国的人才培养,从上世纪90年代就开展了大量教育和产学协同培养实践,包括英特尔中国学术大会、中国学术英才计划、奖学金项目、全国大学生电子设计竞赛,乃至走进中国偏远地区,通过“双师课堂”“送教下乡”等方式做技术普惠。

  而走出去,则是基于与国内政府、企业、机构合作的推进,以及英特尔中国团队的研究成果,将技术与经验惠及全球。如绿色PC就是立足于中国的技术及标准实现;而走出去更为典型的例子,应该是英特尔中国研究院的技术输出。

  宋继强说英特尔中国研究院“在促进中国产业升级、社会创新与数字经济不断发展的同时,也为全球智能计算的可持续发展贡献中国智慧”。英特尔中国研究院在诸多领域,就当代惠及全球的关键技术做出了不少重要贡献,比如前文提到AI软件及生态搭建相关的部分;再比如参与5G接入网研究——现在不少成为标准的5G网络架构与设计都有英特尔中国研究院的参与;还有Thunderbolt、负责任的人工智能等技术研究输出。

  即便扎根中国的理念与未来PC形态并无直接关联,英特尔的中国战略也正实实在在影响着PC、边缘与网络、数据中心、加速计算乃至更多领域的未来发展。随着中国电子产业技术的持续进步,中国的技术创新也会持续辐射到世界及行业的方方面面。

  2023年是PC行业面临技术升级、技术竞争日益激烈的一年。这一年,PC市场迎来了生成式AI这一技术热点;加速计算、异构集成也在PC领域变得愈发重要;PC作为全球市场价值最高的消费电子产品类别之一,在提倡全球减碳、绿色能源的时代大背景,也正面临新标准的确立。英特尔这些问题上都做出了积极的回应。

  我们从“大局观”系列媒体访谈看到的英特尔,早已不再是个单纯的芯片制造商,而是就硬件层面更加在意系统设计与上下游合作,持续树立新标准;软件层面建立开放开源生态,拥抱AI技术;垂直市场关注应用端、使用场景的需求变化,实时调整技术方向。这可能就是在面临时代变局时,当代芯片企业因此需要着眼的转变。

  文章来源:电子工程专辑

  (来源:News快报)

责任编辑:何奎良

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2023 SINA Corporation

All Rights Reserved 新浪公司 版权所有