黄色一级大片视频-黄色一级毛片看一级毛片-黄色一级毛片网站-黄色一级毛片在线观看-免费国产h视频在线观看-免费黄色大片视频

電話咨詢 在線咨詢 產品定制
電話咨詢 在線咨詢 產品定制
010-68321050

5G加持,混合AI架構釋放終端能力!

五度易鏈 2023-11-24 3524 0

專屬客服號

微信訂閱號

大數據治理

全面提升數據價值

賦能業務提質增效

5G或未來6G的連接,是實現混合AI架構的關鍵。當終端大模型判斷出現了終端無法處理的工作,可以通過5G連接,將數據上傳到云端進行運算,之后再將結果推回到終端。5G或6G的高速連接,能夠保障數據處理和結果反饋的實時性。如此一來,云端、邊緣云的訓練和計算資源,都將為終端大模型服務,保障了用戶體驗。

  雖然端側AI優勢明顯、端側大模型的布局熱度正酣,但終端芯片受到體積和功耗的限制,對于更大的模型和調優等重度負載并非最優解,更加高階或復雜的AI用例往往誕生于云端大模型。

  那么,當終端用戶偶爾需要超越端側大模型的功能時,該如何獲取?高通在《混合AI是AI的未來》白皮書中,提出了在云端和邊緣終端之間分配并協同處理AI工作負載的混合AI架構。這種架構可以根據模型和查詢需求的復雜度等因素,在云端和終端側之間分配處理負載。

  5G或未來6G的連接,是實現混合AI架構的關鍵。當終端大模型判斷出現了終端無法處理的工作,可以通過5G連接,將數據上傳到云端進行運算,之后再將結果推回到終端。5G或6G的高速連接,能夠保障數據處理和結果反饋的實時性。如此一來,云端、邊緣云的訓練和計算資源,都將為終端大模型服務,保障了用戶體驗。

  雖然6G尚未到來,但行業已經行至5G第二個階段的演進——5G Advanced(以下簡稱5G-A)。相比5G,5G-A可實現網絡能力的10倍提升,支撐10Gbps體驗、全場景物聯、通信感知一體、L4級別自動駕駛網絡、綠色ICT等業態,進一步開發和釋放5G的潛能。

  最新一代驍龍8 Gen 3集成的驍龍X75是業界首個5G Advanced-ready調制解調器及射頻系統,面向智能手機、移動寬帶、汽車、計算、工業物聯網、固定無線接入和5G企業專網等細分領域,提升網絡覆蓋、時延、能效和移動性體驗。在11月8日于烏鎮舉辦的“世界互聯網大會領先科技獎”頒獎典禮上,高通5G Advanced-ready調制解調器及射頻系統X75獲得“世界互聯網大會領先科技獎”。

  內生AI被視為5G-A的關鍵技術之一,使網絡更智能、靈活地按需提供功能。驍龍X75是業界首次在調制解調器及射頻系統中采用專用硬件張量加速器,將AI性能提升至前代產品的2.5倍以上。驍龍X75還引入了5G AI套件,為連接速度、移動性、鏈路穩健性等5G性能和特性的優化提供更大空間。

  5G-A的加持,除了讓手機、PC等終端能夠高效運行大模型,也為大模型進入XR(虛擬現實、增強現實等)、汽車等終端帶來更多可能。5G-A提供的萬兆體驗,能夠更有力地支撐VR/AR和車聯網等需要高帶寬、低時延的應用。例如微軟基于云流媒體和第二代驍龍XR2芯片平臺,在XR終端側運行先進的算法,實現了將Windows體驗安全傳輸到Meta Quest設備,用Azure遠程渲染MR終端內容等用例,更有效地融合了XR云端和客戶端內容。

  混合AI架構以及5G+AI的協同工作,也為開發者在本地和云上的無縫開發大模型相關應用帶來便利。今年9月,微軟將AI助手Copilot接入Windows11,將生成式AI引入更多應用程序。微軟Windows和設備副總裁帕萬·達武魯里在2023驍龍峰會表示,終端側AI促進了客戶端和云端之間的平衡,將使開發人員能夠使用本地和云計算編寫混合AI應用。“未來,我們需要一個能夠模糊云端和邊緣端芯片界限的操作系統,在合適的地方使用合適的芯片,從而實現最佳體驗。這將讓Windows成為一個跨應用、內容和圖形的編排系統。”

  萬物互聯,萬物智能。AIGC提升了終端的智能上限,而5G-A和未來的6G拓展了智能的觸達范圍,兩者將一起為終端的使用和交互體驗帶來更多可能。


本文為本網轉載,出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其內容的真實性,如涉及侵權,請權利人與本站聯系,本站經核實后予以修改或刪除。

評論

產業專題

申請產品定制

請完善以下信息,我們的顧問會在1個工作日內與您聯系,為您安排產品定制服務

  • *姓名

  • *手機號

  • *驗證碼

    獲取驗證碼
    獲取驗證碼
  • *您的郵箱

  • *政府/園區/機構/企業名稱

  • 您的職務

  • 備注