午夜不卡视频在线观看_国产精品二区av_国产小黄片视频在线免费观看_日本一个人在线观看_亚洲国产三级免费观看_韩日人妻精品一区二区三区_环太平洋免费观看免费_欧美成人精品不卡在线观看

楊元慶:大模型的算力需求正在向邊緣側(cè)和端側(cè)下沉

2023-11-23 07:20:00 財(cái)經(jīng)網(wǎng) 

11月22日,“《財(cái)經(jīng)》年會2024:預(yù)測與戰(zhàn)略”在北京舉辦,聯(lián)想集團(tuán)董事長兼CEO楊元慶在年會發(fā)表《加快“新IT”技術(shù)創(chuàng)新,促進(jìn)人工智能普惠》主題演講。演講中,他系統(tǒng)闡述了聯(lián)想對人工智能大模型技術(shù)浪潮的洞察與業(yè)務(wù)布局,還首次完整定義了未來AI PC(人工智能電腦)所具備的五大特質(zhì)。

楊元慶在演講中提到,豐富多樣的公共大模型為人們帶來了高效與便利,但同時(shí)也帶來了很現(xiàn)實(shí)的問題,即如何在享受大模型帶來的效率紅利的同時(shí),能夠有效保護(hù)隱私和數(shù)據(jù)安全。楊元慶認(rèn)為,通過公共大模型和私有大模型(個(gè)人/企業(yè)級大模型)的混合并用,可以實(shí)現(xiàn)這樣的“既要-又要”。未來的人工智能大模型將會是公共/企業(yè)/個(gè)人大模型共存的混合式的人工智能。

他指出,混合式人工智能的實(shí)現(xiàn)離不開強(qiáng)大算力基礎(chǔ)設(shè)施支撐。目前大模型的用戶規(guī)模還比較小,大多數(shù)大模型都在算力較強(qiáng)的公有云上訓(xùn)練。未來,隨著用戶規(guī)模擴(kuò)大,無論是出于數(shù)據(jù)安全和隱私保護(hù)的考慮,還是更高效率、更低成本響應(yīng)用戶需求的考慮,大模型的計(jì)算負(fù)載將逐漸由云端向邊緣側(cè)和端側(cè)下沉,越來越多的人工智能的推理任務(wù)將會在邊緣和設(shè)備端進(jìn)行,這使得個(gè)人大模型更加成為必要和可能。而要構(gòu)建和優(yōu)化大模型,支持更多生成式人工智能的應(yīng)用,不僅需要提升云端的算力,在邊緣和端側(cè)也需要更強(qiáng)大算力的配合,形成“端-邊-云”混合計(jì)算架構(gòu)下更平衡的算力分配。這讓能夠支持運(yùn)行個(gè)人大模型的AI PC成為順應(yīng)大模型發(fā)展趨勢的必然和必需。

楊元慶在演講中提到,相較于今天的個(gè)人電腦,未來AI PC將具備五大核心特質(zhì):第一,AI PC能夠運(yùn)行經(jīng)過壓縮和性能優(yōu)化的個(gè)人大模型;第二,具備更強(qiáng)的算力,能夠支持包括CPU、GPU、NPU在內(nèi)的異構(gòu)計(jì)算;第三,具備更大的存儲,能夠容納更多個(gè)人全生命周期的數(shù)據(jù)并形成個(gè)人知識庫,為個(gè)人大模型的學(xué)習(xí)、訓(xùn)練、推理、優(yōu)化提供燃料;第四,具備更順暢的自然語言交互,甚至可以用語音、手勢跟它完成互動(dòng);第五,具備更可靠的安全和隱私保護(hù)。

“你未來的人工智能個(gè)人電腦,既能夠作為公共大模型的入口,又能獨(dú)立運(yùn)行個(gè)性化的私有大模型,它掌握最全面的個(gè)人數(shù)據(jù)和信息,又能嚴(yán)守你的秘密。只有你能喚醒它、使用它,同時(shí)也只有它最懂你,遠(yuǎn)勝于公共大模型!彼忉尅

聯(lián)想集團(tuán)董事長兼CEO楊元慶

附:楊元慶演講全文

加快“新IT”技術(shù)創(chuàng)新,促進(jìn)人工智能普惠

各位來賓,朋友們,大家好!

很高興再次參加財(cái)經(jīng)年會。2023臨近尾聲,如果要給今年的科技行業(yè)總結(jié)一個(gè)關(guān)鍵詞的話,我想應(yīng)該非“人工智能”莫屬。今年以來,ChatGPT帶動(dòng)起來的生成式人工智能、大模型熱潮,成為人工智能應(yīng)用普及的加速器、催化劑,提速了各行各業(yè)的智能化轉(zhuǎn)型。我們都真切地感受到,人工智能變得比以往任何時(shí)候都更加真實(shí),與每一個(gè)人、每一家企業(yè)都越來越息息相關(guān);我們也深刻地認(rèn)知到,所有行業(yè)、所有場景都可能被人工智能重塑,這讓我們對未來有了更多的憧憬,更多的期待。

實(shí)際上,人工智能誕生至今已經(jīng)有70多年歷史,現(xiàn)在大熱的大模型其實(shí)只是人工智能技術(shù)的一個(gè)分支。大模型技術(shù)的創(chuàng)新突破,讓眾多公共大模型如雨后春筍般涌現(xiàn),公共知識庫的豐富性顯而易見,無論是作為平臺型應(yīng)用,還是切入各種行業(yè)應(yīng)用場景,都給我們帶來了高效與便利,讓我們真正感受到了“智能”的意義。

但這里也存在一個(gè)現(xiàn)實(shí)問題,那就是要想讓公共大模型在跟你對話時(shí),提供你想要的正確、恰當(dāng)?shù)膬?nèi)容,你就必須告訴它真實(shí)想法,提供真實(shí)信息,而那樣的話,你的個(gè)人數(shù)據(jù)甚至隱私,還有企業(yè)的商業(yè)機(jī)密就變成了公眾信息的一部分。實(shí)際上,人們既希望擁有跟大模型交互帶來的高效便利,又希望自己的數(shù)據(jù)只留存在自己的設(shè)備上或只在企業(yè)內(nèi)部流動(dòng)。是否可能做到這樣的“既要-也要”呢?我認(rèn)為,通過公共大模型和私有大模型,包括個(gè)人大模型/企業(yè)級大模型的混合并用,是可以實(shí)現(xiàn)的。

所謂個(gè)人大模型,是指部署在個(gè)人智能設(shè)備或家庭服務(wù)器上,使用存儲在本地的個(gè)人數(shù)據(jù)進(jìn)行推理和學(xué)習(xí)的人工智能基礎(chǔ)模型。它不僅僅可以像公共大模型那樣通過對話提供答案、創(chuàng)作內(nèi)容,而且更加精準(zhǔn)、貼切,甚至根據(jù)你的思維模式預(yù)測任務(wù),并自主尋找解決方案。除非用戶授權(quán),否則用戶的個(gè)人數(shù)據(jù)不會被共享或發(fā)送到公有云,從而確保了個(gè)人隱私和數(shù)據(jù)安全。

而企業(yè)級大模型是指使用從企業(yè)內(nèi)部的智能設(shè)備、智能邊緣提取的數(shù)據(jù),以及存儲在私有云上的數(shù)據(jù)和知識庫進(jìn)行推理、學(xué)習(xí)并訓(xùn)練優(yōu)化的人工智能基礎(chǔ)模型。它能夠根據(jù)企業(yè)的業(yè)務(wù)場景和應(yīng)用需求,歸納整合出判斷和結(jié)論,并提出決策建議。它部署在企業(yè)內(nèi)部,能確保相關(guān)信息的私密和安全。

我認(rèn)為,未來的人工智能大模型將會是個(gè)人、企業(yè)和公共大模型共存的混合式的人工智能,這跟公有云、私有云和混合云的概念是一脈相通的。

我舉個(gè)例子,來體現(xiàn)企業(yè)級大模型和公共大模型如何協(xié)同作用。當(dāng)臺風(fēng)即將來臨時(shí),企業(yè)可以通過公共大模型得到臺風(fēng)的準(zhǔn)確位置、風(fēng)力預(yù)測,但涉及到具體哪些客戶的訂單交付可能受到影響,就是企業(yè)級大模型大顯身手的時(shí)候了——它能夠告訴我們,客戶A的訂單尚未生產(chǎn),可能受到工廠暫時(shí)關(guān)閉的影響;客戶B的訂單尚未運(yùn)輸,可能受到陸運(yùn)中斷的影響;客戶C的訂單尚未排產(chǎn),可能受到物料延誤的影響。有了這些信息,模型還能進(jìn)一步給出優(yōu)化運(yùn)輸方式、調(diào)整訂單排序等建議,保障按優(yōu)先級出貨、交付。這樣的行業(yè)智能化解決方案,對于企業(yè)供應(yīng)鏈高效管理是非常有意義的。

而混合式的人工智能要如何實(shí)現(xiàn)呢?這離不開基于 “端-邊-云-網(wǎng)-智”的新IT技術(shù)架構(gòu)的支撐。大模型的構(gòu)建需要對海量的數(shù)據(jù)進(jìn)行訓(xùn)練、推理,計(jì)算量爆發(fā)式增長,對計(jì)算力提出了極高的要求。同時(shí),隨著人工智能應(yīng)用的深入,訓(xùn)練和推理的計(jì)算負(fù)荷比重也將發(fā)生重大變化,從而對計(jì)算的配置提出了新的要求。

目前,大模型的用戶規(guī)模還比較小,大多數(shù)大模型都部署在公有云上,借助那里更強(qiáng)大的算力資源,其計(jì)算負(fù)載主要用于模型的訓(xùn)練。未來,隨著每個(gè)人都要使用大模型,用戶規(guī)模不斷擴(kuò)大,用于推理的計(jì)算負(fù)載需求將迅速提升,很快會超過訓(xùn)練的計(jì)算負(fù)載,那時(shí)候在公有云上完成所有的訓(xùn)練和推理任務(wù)就會讓效率低、成本高的問題日益凸顯。

因此,無論是出于數(shù)據(jù)安全和隱私保護(hù)的考慮,還是更高效率、更低成本響應(yīng)用戶需求的考慮,大模型的計(jì)算負(fù)載,將逐漸由云端向邊緣側(cè)和端側(cè)下沉,越來越多的人工智能的推理任務(wù)將會在邊緣和設(shè)備端進(jìn)行,使得個(gè)人大模型和企業(yè)大模型的運(yùn)行更加成為必要和可能。所以,要構(gòu)建和優(yōu)化大模型,支持更多生成式人工智能的應(yīng)用,不僅需要提升云端的算力,在邊緣和端側(cè)也需要更強(qiáng)大算力的配合,形成“端-邊-云”混合計(jì)算架構(gòu),實(shí)現(xiàn)更加平衡的算力分配。

早在6年前,聯(lián)想已經(jīng)預(yù)見了人工智能將會帶來的時(shí)代機(jī)遇,開始推進(jìn)智能化轉(zhuǎn)型,從智能物聯(lián)網(wǎng)終端、智能基礎(chǔ)設(shè)施和行業(yè)智能三個(gè)維度入手,圍繞“端-邊-云-網(wǎng)-智”新IT技術(shù)架構(gòu),加大投資技術(shù)創(chuàng)新,加快以解決方案和服務(wù)為導(dǎo)向的業(yè)務(wù)轉(zhuǎn)型,致力于成為各行各業(yè)智能化轉(zhuǎn)型的引領(lǐng)者和賦能者。

現(xiàn)在,聯(lián)想的智能化轉(zhuǎn)型開始步入收獲期,形成了包括人工智能導(dǎo)向、人工智能優(yōu)化、人工智能賦能的終端、基礎(chǔ)設(shè)施和方案服務(wù)在內(nèi)的全景式人工智能業(yè)務(wù)生態(tài)。

在智能終端方面,我們擁有個(gè)人電腦、手機(jī)、平板、AR/VR、工作站等各類智能設(shè)備,并且在不斷提升它們的智能計(jì)算能力。在前不久的聯(lián)想創(chuàng)新科技大會上,我們還展示了即將發(fā)布的AI PC人工智能電腦。

相較于今天的個(gè)人電腦,未來的 AI PC能夠運(yùn)行經(jīng)過壓縮和性能優(yōu)化的個(gè)人大模型,它將實(shí)現(xiàn)這樣幾個(gè)“戰(zhàn)斗力”的突破性升級:第一是更強(qiáng)的算力,能夠支持包括CPU、GPU、NPU在內(nèi)的異構(gòu)計(jì)算;第二是更大的存儲,能夠容納更多我們個(gè)人全生命周期的數(shù)據(jù)并形成個(gè)人知識庫,為個(gè)人大模型的學(xué)習(xí)、訓(xùn)練、推理、優(yōu)化提供燃料;第三是更順暢的自然語言交互,我們可以用語音、手勢跟人工智能個(gè)人電腦來互動(dòng);第四是更可靠的安全和隱私保護(hù)。也就是說,你未來的人工智能個(gè)人電腦,既能夠作為公共大模型的入口,又能獨(dú)立運(yùn)行個(gè)性化的私有大模型,只有它能夠掌握你最全面的個(gè)人數(shù)據(jù)和信息,又能嚴(yán)守你的秘密。只有你能喚醒它、使用它,同時(shí)也只有它最懂你,遠(yuǎn)勝于任何一個(gè)公共大模型。

舉個(gè)例子說,如果你想做個(gè)旅行計(jì)劃,即使你在飛機(jī)上,在不聯(lián)網(wǎng)的狀態(tài)下,你也可以跟你的電腦對話,甚至不需要告知你的需求和偏好,電腦也會為你推薦你心儀的航班、酒店、路線、餐廳等等。未來你的電腦、你的手機(jī),亦或是你的汽車,就像是你個(gè)人的數(shù)字延伸、數(shù)字鏡像,成為你個(gè)人的人工智能雙胞胎,大幅提升你的生活品質(zhì)和工作效率。

在智能基礎(chǔ)設(shè)施方面,聯(lián)想是全球第三大的人工智能基礎(chǔ)設(shè)施和服務(wù)器供應(yīng)商,也是第三大存儲廠商。全球最快的500套高性能計(jì)算機(jī)中,聯(lián)想連續(xù)多年保持1/3左右的上榜總數(shù),穩(wěn)居全球第一。我們的算力基礎(chǔ)設(shè)施產(chǎn)品包括了服務(wù)器、存儲、網(wǎng)絡(luò)、軟件等,全面覆蓋數(shù)據(jù)中心、公有云、私有云、邊緣計(jì)算等各類計(jì)算場景,能夠?yàn)槿斯ぶ悄艽竽P偷挠?xùn)練、推理需求提供強(qiáng)有力的支持。我們還搭建了聯(lián)想混合云平臺,能夠?qū)崿F(xiàn)云原生、智能運(yùn)維、私有云和多云管理等目標(biāo);而我們的服務(wù)品牌“臻算”,能夠?yàn)橛脩籼峁┌葱韪顿M(fèi)、可訂閱式的算力服務(wù)。

在行業(yè)智能解決方案方面,聯(lián)想首先自身就是智能化轉(zhuǎn)型的先行者,通過自研技術(shù)建立起覆蓋“研發(fā)-生產(chǎn)-供應(yīng)-銷售-服務(wù)”全價(jià)值鏈的智能化管理體系,F(xiàn)在,我們把自身的轉(zhuǎn)型經(jīng)驗(yàn)提煉出來,形成積木式通用解決方案,包括數(shù)字化辦公空間解決方案、混合云解決方案、人工智能導(dǎo)向的邊緣計(jì)算平臺等等,并把它們嵌入到垂直行業(yè)的智能化整體解決方案中,比如智能制造、智慧教育、智慧政務(wù)、智慧金融、智慧醫(yī)療等等,F(xiàn)在,我們已經(jīng)為包括三一重工(600031)、吉利汽車、蔚來汽車、寧德時(shí)代(300750)等近千家大型行業(yè)企業(yè)提供了智能化轉(zhuǎn)型方案。我們的混合式人工智能解決方案和專業(yè)服務(wù)致力于打造企業(yè)人工智能雙胞胎,將為混合式基礎(chǔ)設(shè)施與人工智能在企業(yè)的落地應(yīng)用提供有力支持。

技術(shù)創(chuàng)新總是激動(dòng)人心,因?yàn)樗芮星袑?shí)實(shí)提升社會生產(chǎn)效率,讓人們的生活和工作方式更加便捷。在中國經(jīng)濟(jì)轉(zhuǎn)型升級、實(shí)現(xiàn)高質(zhì)量發(fā)展的進(jìn)程中,生成式人工智能、大模型在各行各業(yè)的落地,人工智能跟實(shí)體經(jīng)濟(jì)場景的融合應(yīng)用,也就是“數(shù)實(shí)融合”,正在成為經(jīng)濟(jì)增長的新動(dòng)能和新引擎。

自創(chuàng)立以來,“計(jì)算”一直是聯(lián)想的基因和底色。近幾年,我們把人工智能和計(jì)算作為聯(lián)想的兩個(gè)技術(shù)錨點(diǎn),圍繞“新IT”持續(xù)投資技術(shù)創(chuàng)新,致力于讓人工智能更加易得、更具包容性,讓人工智能惠及每一家企業(yè)、每一個(gè)個(gè)人。當(dāng)然,人工智能的發(fā)展離不開百花齊放的產(chǎn)業(yè)生態(tài)和應(yīng)用場景,我們也愿意與各行各業(yè)的企業(yè)攜手合作,共同提速千行百業(yè)的智能化轉(zhuǎn)型,助力經(jīng)濟(jì)實(shí)現(xiàn)高質(zhì)量發(fā)展,為智能化社會的美好未來貢獻(xiàn)力量!

謝謝大家!

(責(zé)任編輯:王治強(qiáng) HF013)
看全文
寫評論已有條評論跟帖用戶自律公約
提 交還可輸入500

最新評論

查看剩下100條評論

熱門閱讀

    和訊特稿

      推薦閱讀

        抚顺县| 阿尔山市| 淳安县| 银川市| 建湖县| 疏附县| 巩留县| 平塘县| 旌德县| 武清区| 孟津县| 夏河县| 邵阳县| 马公市| 澄江县| 巨野县| 安西县| 修文县| 桐城市| 白城市| 花垣县| 得荣县| 遂平县| 普定县| 海阳市| 冀州市| 宜都市| 贺兰县| 连州市| 遂溪县| 乌鲁木齐市| 兴山县| 江山市| 绥中县| 闻喜县| 五莲县| 兴国县| 丹棱县| 静海县| 禄丰县| 博湖县|