專屬客服號
微信訂閱號
全面提升數(shù)據(jù)價值
賦能業(yè)務(wù)提質(zhì)增效
英特爾、AMD等第三方處理器供應(yīng)商及蘋果等自研處理器廠商均表示將在2024年推出搭載NPU的電腦處理器。與此同時,如何在電腦處理器中發(fā)揮出NPU的最大功效,也成為了業(yè)內(nèi)熱議的話題。
集成了NPU的第14代酷睿Ultra移動處理器(圖片來源:英特爾)
NPU將在AI PC落地生花
據(jù)了解NPU可以根據(jù)網(wǎng)絡(luò)運(yùn)算的特點,通過軟件或硬件編程,實現(xiàn)多種特定用途的網(wǎng)絡(luò)功能。相比傳統(tǒng)CPU和GPU,NPU能夠以更高的效率、更低的功耗執(zhí)行神經(jīng)網(wǎng)絡(luò)任務(wù)。相比FPGA,NPU更具成本優(yōu)勢。業(yè)內(nèi)專家告訴《中國電子報》記者,F(xiàn)PGA雖然也在靈活性和可編程性方面有優(yōu)勢,但主流FPGA芯片的制程節(jié)點通常在14nm~45nm之間,而NPU的制程節(jié)點往往在10nm以下,更加適合小型、低功耗的PC、手機(jī)等消費(fèi)級設(shè)備。
各類型AI芯片對比(數(shù)據(jù)來源:根據(jù)網(wǎng)絡(luò)信息整理)
在軟件方面,NPU具備與主流軟件兼容性強(qiáng)的優(yōu)勢。“NPU能夠通過標(biāo)準(zhǔn)化的接口,如OpenCL、CUDA、OpenVX等與AI框架交互,輕易集成到不同的軟件環(huán)境中。因此NPU通常與主流的AI框架和軟件棧有更好的兼容性,使開發(fā)者更容易利用這些硬件加速器。”業(yè)內(nèi)專家表示。
2017年,華為最先將NPU處理器集成到手機(jī)CPU中,使得CPU單位時間計算的數(shù)據(jù)量和單位功耗下的AI算力得到顯著提升,讓業(yè)內(nèi)看到了NPU應(yīng)用于終端設(shè)備的潛力。隨著AI應(yīng)用越來越廣泛,PC用戶對于AI能力的需求也在增加,業(yè)內(nèi)開始嘗試將NPU集成到PC中。這不僅可以讓用戶在本地進(jìn)行AI模型的訓(xùn)練和推理,不必依賴云端的計算資源,還支持用戶根據(jù)自己的需要進(jìn)行模型的訓(xùn)練和優(yōu)化,符合當(dāng)前軟件和服務(wù)的個性化、定制化發(fā)展趨勢。
目前來看,各家處理器供應(yīng)商對內(nèi)置NPU的電腦處理器表示出極大的興趣,紛紛推出相關(guān)產(chǎn)品。英特爾在近期發(fā)布了內(nèi)置NPU的第14代酷睿Ultra移動處理器。英特爾官方表示,2024年,將有230多款機(jī)型搭載酷睿Ultra。蘋果將在2024年發(fā)布搭載M3處理器的MacBook,并透露其M3處理器的NPU性能相較于M1提升了60%。AMD首次加入獨(dú)立NPU的銳龍8040處理器將于2024年初正式發(fā)布。AMD表示,加入NPU后,處理器的大語言模型性能提升了40%。
內(nèi)置NPU的AMD銳龍8040處理器(圖片來源:AMD)
業(yè)內(nèi)普遍認(rèn)為,未來“CPU+NPU+GPU”的組合將成為AI PC的算力基座。CPU主要用于控制和協(xié)調(diào)其他處理器的工作、GPU主要用于大規(guī)模并行計算、NPU專注于深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的計算。三種處理器協(xié)同工作可以充分發(fā)揮各自的優(yōu)勢,提高AI計算的效率和能效比。
消費(fèi)級高端PC將率先采用
在未來的PC發(fā)展中,NPU作為AI計算的核心部件將會在PC上得到廣泛應(yīng)用,高端產(chǎn)品線用戶將率先嘗鮮。業(yè)內(nèi)專家認(rèn)為,在PC處理器中集成NPU需要一定的技術(shù)和資源投入,而這也會導(dǎo)致成本上升。因此NPU在發(fā)展前期會集中在消費(fèi)級PC的高端產(chǎn)品線。
“目前搭載NPU的處理器主要集中在消費(fèi)級PC上。這是由于消費(fèi)級PC用戶的需求和使用場景相對靈活,對產(chǎn)品性能、功能和使用體驗的重視程度超過了對可靠性和使用壽命的關(guān)注。因此,消費(fèi)級PC廠商通常更愿意嘗試新技術(shù)。而企業(yè)用PC對可靠性和使用壽命的要求更加嚴(yán)苛,用戶更傾向于采用已經(jīng)經(jīng)過驗證的技術(shù),以確保系統(tǒng)的穩(wěn)定性。因此,NPU在企業(yè)級PC的應(yīng)用會晚一些?!睒I(yè)內(nèi)專家向《中國電子報》記者表示。
內(nèi)置NPU的聯(lián)想小新Pro16 AI超能本
以英特爾最新發(fā)布的兩款A(yù)I PC處理器為例,英特爾針對企業(yè)級PC用戶的第五代至強(qiáng)可擴(kuò)展處理器中,既沒有采用最新工藝制程,也沒有集成NPU,而是穩(wěn)打穩(wěn)扎繼續(xù)沿用CPU處理器,并依舊采用較為成熟的Intel 7工藝制程。而在針對消費(fèi)級的酷睿Ultra處理器中,不僅采用了最新的Intel 4制程,還首次在處理器中加入了NPU。
用好NPU不能光靠堆積
NPU的使用難點在于如何能釋放出有效的算力。英特爾公司中國區(qū)技術(shù)部總經(jīng)理高宇表示,想讓NPU充分發(fā)揮性能,不能光靠堆積來實現(xiàn),而要了解NPU的理論算力和實際應(yīng)用算力。在此基礎(chǔ)上,再對現(xiàn)有的編程模型進(jìn)行優(yōu)化,使其更好地適應(yīng)NPU的并行處理架構(gòu)。這需要開發(fā)者和工程師深入了解NPU的工作原理和特性。除了編程模型優(yōu)化外,還需要對硬件設(shè)備本身進(jìn)行優(yōu)化,例如散熱、功耗管理等。這些因素都會影響到NPU的實際性能和算力。
為了進(jìn)一步實現(xiàn)NPU在AI PC中的普及并釋放出有效算力,還需要建設(shè)針對NPU的生態(tài)。“為了推動NPU在PC領(lǐng)域的發(fā)展,還需要建立一個完善的生態(tài)系統(tǒng),包括硬件供應(yīng)商、軟件開發(fā)者、PC應(yīng)用廠商等。當(dāng)這個生態(tài)系統(tǒng)變得健康、活躍,NPU技術(shù)才能得到更好的發(fā)展?!睒I(yè)內(nèi)專家說。
作者:沈叢 來源:中國電子報、電子信息產(chǎn)業(yè)網(wǎng)
本文為本網(wǎng)轉(zhuǎn)載,出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其內(nèi)容的真實性,如涉及侵權(quán),請權(quán)利人與本站聯(lián)系,本站經(jīng)核實后予以修改或刪除。
請完善以下信息,我們的顧問會在1個工作日內(nèi)與您聯(lián)系,為您安排產(chǎn)品定制服務(wù)
評論