高通全球副總裁孫剛:未來幾個月將有望在手機上運行超過100億參數的模型
導讀: 新浪科技訊 7月20日午間消息,在今日的2023世界半導體大會暨南京國際半導體博覽會上,高通全球副總裁孫剛發表演講! ∷硎,5G技術持續演講,5G Advanced開啟新一輪5G創新;推動混合AI架構,通過在終端
新浪科技訊 7月20日午間消息,在今日的2023世界半導體大會暨南京國際半導體博覽會上,高通全球副總裁孫剛發表演講。
他表示,5G技術持續演講,5G Advanced開啟新一輪5G創新;推動混合AI架構,通過在終端側運行AI推理分擔或支持云端處理。5G與AI將如影隨形同步發展,兩大協同基本要素助力未來創新。
孫剛提到,生成式AI將在搜索、內容生成、代碼編寫、生產力上帶來變革。顛覆行業現狀,幾秒內即可創作內容,巨大的市場機遇和顯著提升生產力的潛力。2020年至2022年,生成式AI相關的投資增長425%,初步預估生成式AI市場規模將達到1萬億美元。
不過他指出,云經濟難以支持生成式AI規模化拓展,為實現規;卣,AI處理的中心正在向邊緣轉移。比如XR、汽車、手機、PC、物聯網,生成式AI將影響各類終端上的應用。
在2023MWC期間,高通進行了全球首個終端側演示運行于安卓手機的生成式AI,下一步在終端上運行大型語言模型。
“目前我們能夠支持參數超過10億的模型在終端上運行,未來幾個月內超過100億參數的模型將有望在終端側運行。”他說。
責任編輯:zsz