MediaTek聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃 以AI大模型賦能終端設(shè)備
作為推動AI進(jìn)一步發(fā)展的先進(jìn)技術(shù),與單純在云端部署生成式AI應(yīng)用和服務(wù)相比,終端側(cè)部署生成式AI在節(jié)約服務(wù)器成本、保護(hù)用戶信息安全、提升實時性和實現(xiàn)個性化用戶體驗等方面具備明顯優(yōu)勢。雙方的合作將支持基于MediaTek芯片的智能手機、汽車、智能家居、物聯(lián)網(wǎng)等終端設(shè)備上運行文心大模型,賦能終端設(shè)備提供更安全、可靠和差異化的使用體驗。
MediaTek與百度合作已久,雙方合作完成了Paddle Lite 輕量化推理引擎基于MediaTek NeuroPilot 人工智能通用軟件平臺的適配。
NeuroPilot是MediaTek為開發(fā)者提供的基于本地端側(cè)的AI運算解決方案,它為內(nèi)建CPU、GPU 和 APU(獨立AI 處理器)等異構(gòu)運算單元的MediaTek SoC平臺提供完整且強大的軟件解決方案。NeuroPilot支持開發(fā)者在現(xiàn)有和未來的MediaTek 硬件平臺以及包括智能手機、汽車、智能家居、物聯(lián)網(wǎng)等產(chǎn)品線實現(xiàn)“一次編寫,全場景通用”,幫助開發(fā)者在MediaTek平臺上高效開發(fā)和部署基于神經(jīng)網(wǎng)絡(luò)模型的AI應(yīng)用程序。AI開發(fā)者可以使用主流的TensorFlow、Pytorch、TF Lite、Caffe、Caffe2以及其他自定義的第三方通用AI框架來構(gòu)建神經(jīng)網(wǎng)絡(luò)模型,并接入到NeuroPilot系統(tǒng),充分發(fā)揮MediaTek AI系統(tǒng)的強勁算力,顯著提高模型運行在設(shè)備上的效率,并降低功耗和內(nèi)存消耗。
MediaTek無線通信事業(yè)部副總經(jīng)理李彥輯博士表示:“百度飛槳深度學(xué)習(xí)平臺和文心大模型在AI領(lǐng)域處于領(lǐng)先地位,我們雙方將聚焦AI大模型在終端側(cè)的部署,為用戶提供更安全可靠,更個人化,更低成本的端側(cè)生成式AI解決方案,賦予終端設(shè)備更強大的AI能力。MediaTek攜手百度飛槳和文心大模型,通過AI端云融合,將為廣大開發(fā)者和終端用戶帶來更多令人興奮的AI創(chuàng)新機遇和產(chǎn)品體驗。”
生成式人工智能浪潮下,大模型正成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。MediaTek將持續(xù)攜手百度飛槳和文心大模型,加速終端側(cè)生成式AI的部署,共同打造軟硬一體的人工智能大模型平臺,讓科技惠及大眾,為千行百業(yè)賦能。