財經(jīng)網(wǎng)訊 “現(xiàn)在前沿科技將給人類生活帶來巨大的收益和便利，但科技發(fā)展同時還要有人文關(guān)懷，去主動解決新興技術(shù)研發(fā)與應用帶來的風險與挑戰(zhàn)�！�11月28日，清華大學蘇世民書院院長薛瀾在第十九屆《財經(jīng)》(博客,微博)年會“《財經(jīng)》年會2022：預測與戰(zhàn)略”上表示。

清華大學蘇世民書院院長 薛瀾

薛瀾表示，人工智能已經(jīng)在各個應用領(lǐng)域有很廣的拓展，包括智能機器人新冠期間在醫(yī)院的應用、人工智能用于新冠診斷。但人工智能的發(fā)展不僅僅是這些應用，也意味著科研范式和業(yè)態(tài)的重塑，大大節(jié)約了人力物力，大大提高了科研和生產(chǎn)效率。

在生命科學領(lǐng)域，他指出，人類對生命的認識也在經(jīng)歷著從解讀、修飾到創(chuàng)造的過程。并列舉幾個例子，如首個單條染色體酵母人工合成，以及今年研究人員首次合成可正常分裂的細胞、最新的日本研究人員用3D生物打壓技術(shù)打造出人造和牛等等。

從可能的風險來看，從具體技術(shù)應用來看，如人臉識別技術(shù)在高通量檢查，社區(qū)治理等方面給我們帶來巨大的便利，但社會上也有一些擔心，對個人數(shù)據(jù)的收集會不會有其他負面的影響。從更加宏觀的角度看，新興科技的廣泛應用長遠是否會對人類帶來積累性風險，如就業(yè)問題，世界經(jīng)濟論壇近期的一份報告就提到近年來我們首次看到新興科技創(chuàng)造就業(yè)落后于消除就業(yè)，這是必須高度關(guān)注的。

他強調(diào)，新興技術(shù)治理背后有一個生成邏輯和治理實踐。從結(jié)構(gòu)上來看應該有四個層面，首先是核心驅(qū)動層，所有的新興技術(shù)在初期的時候背后有知識的重大發(fā)現(xiàn)或技術(shù)上的關(guān)鍵創(chuàng)新導致新產(chǎn)品的產(chǎn)生，形成核心驅(qū)動；第二是環(huán)境變革層，新技術(shù)的應用必須跟應用環(huán)境不斷交流互動，找到新的應用場景和新的需求，形成技術(shù)的應用領(lǐng)域和范式；第三是認知適配層，這是一個技術(shù)的社會認知過程；最后就是治理范式層，明確價值導向，參與主體及治理工具。

最后談人工智能的治理，薛瀾提出“敏捷治理模式”。從基本的框架來講，要識別治理對象，就是數(shù)據(jù)的問題、算法的問題、平臺企業(yè)的問題。治理理念是在效率公平安全自由等基本理念上做出平衡。參與的主體不但是政府、企業(yè)、公眾，很多的社會組織等都是我們需要依靠的治理主體。治理工具的應用要靠法律法規(guī)、行業(yè)標準、各種技術(shù)手段、社會的共識。

在具體實踐過程中價值觀非常關(guān)鍵，在確保人工智能安全和平等的底線上推進創(chuàng)新驅(qū)動，鼓勵企業(yè)創(chuàng)新，利用人工智能賦能經(jīng)濟社會的發(fā)展，來服務(wù)于我們的可持續(xù)發(fā)展目標的實現(xiàn)。同時要及時識別人工智能帶來的風險，在適當?shù)臅r候給予規(guī)制，從治理的基本價值理念上說，創(chuàng)新驅(qū)動和敏捷治理要并駕齊驅(qū)。

以下為部分發(fā)言實錄：

薛瀾：非常高興參加今天的論壇，前面幾位院士已經(jīng)進行了非常精彩的演講，包括基礎(chǔ)研究和幾個方面的應用，遙感和智能汽車，非常精彩，陳院士講到了人文在科技發(fā)展中的重要性，怎么樣在科技發(fā)展過程中把人文的思考、倫理的思考帶到創(chuàng)新治理過程中，使得科技能夠為人類社會做更好的服務(wù)。新興科技前沿有很多新的非常重要的趨勢，我下面關(guān)于科技發(fā)展PPT中有幾張是借用中科院副院長周琪前段演講中用的，我覺得非常棒。

首先是人工智能，大家知道人工智能從2017年AlphaGo戰(zhàn)勝了柯潔，之后不斷發(fā)展演變，到2020年AlphaFold解決了國際生物學界預測蛋白質(zhì)折疊的結(jié)構(gòu)問題，超出人類科學家的水平。當然，人工智能還在其它應用領(lǐng)域有很廣的拓展，包括新冠期間在醫(yī)院的應用、提高對新冠的診斷。但是它不僅僅是這些應用，也意味著科研范式和業(yè)態(tài)的重塑，人工智能機器人化學家每天工作21.5小時，不需要人類指導，很多實驗室的工作都可以由機器人幫助完成。8天催化效率提高10倍，在10維參數(shù)空間，有1億多個候選實驗方案中可以確定668個實驗搜索，大大節(jié)約了人力物力，大大提高了科研效率。

在生命科學領(lǐng)域，人類對生命的認識也在經(jīng)歷著從解讀、修飾到創(chuàng)造的過程，這一點大家都知道，我們從世紀之交破譯人類的基因密碼之后，現(xiàn)在的發(fā)展日新月異。舉幾個例子，首先是改造，原來是異養(yǎng)的大腸桿菌，現(xiàn)在可以改造成自養(yǎng)型生物，是這兩年的新成果；人類歷史上首個單條染色體酵母人工合成，還有今年研究人員首次合成可正常分裂的細胞。最近大家也看到中科院天津工業(yè)生物技術(shù)研究所的科學家發(fā)表了顛覆性成果人工合成淀粉，有可能會帶來人類食物的革命�，F(xiàn)在這方面已經(jīng)有很多創(chuàng)新，把傳統(tǒng)的從飼養(yǎng)到生產(chǎn)到消費的過程變成在實驗室培養(yǎng)讓纖維生長成人造肉，已經(jīng)有各種各樣的創(chuàng)新，像美國企業(yè)的人造肉產(chǎn)品已經(jīng)在新加坡獲得批準上市，日本的研究人員也用3D生物打壓技術(shù)打造出人造和牛。

還有很多領(lǐng)域互相交叉，如生命科學與計算機技術(shù)交叉產(chǎn)生的腦機結(jié)合，馬斯克的公司實現(xiàn)了猴子用“意念控制”光標打游戲；美國的FDA2019年已經(jīng)發(fā)布了腦機接口設(shè)備指南；2020年8月份還批準了腦機接口產(chǎn)品的臨床研究性器械豁免申請。這些工作的不斷開展對人類生活各方面的影響是巨大的。當然，科技發(fā)展同時還要有人文關(guān)懷，新興技術(shù)研發(fā)與應用也會帶來風險與挑戰(zhàn)，如人工智能在人臉識別方面給我們帶來巨大的便利，另外也有很多擔心，對個人數(shù)據(jù)的收集會不會有其他負面的影響。

剛才是局部的，另外科技的應用從長遠的考慮會不會對人類帶來積累性風險，比如關(guān)于就業(yè)的問題，世界經(jīng)濟論壇近期的一份報告就提到近年來我們首次看到新興科技創(chuàng)造就業(yè)落后于消除就業(yè)，這是必須高度關(guān)注的。還有一些技術(shù)可能改變我們?nèi)祟愖陨�，像基因編輯技術(shù)的應用，最近我們剛有一篇發(fā)表在PNAS的文章談到當前關(guān)于基因編輯技術(shù)的全球治理，這方面的治理機制需要進行新的改變。

剛才是把新興技術(shù)可能帶來的巨大收益和潛在的風險做了簡單的介紹，下面談?wù)勑屡d技術(shù)怎么去治理，新興技術(shù)治理背后有其生成的邏輯和治理的實踐。如果我們看所有的技術(shù)、不管是現(xiàn)代科技還是傳統(tǒng)科技，幾百年前當時的新興技術(shù)在現(xiàn)在來講是傳統(tǒng)技術(shù)，但它背后都有一個治理體系形成的過程。從結(jié)構(gòu)上來看應該有四個層面，首先是核心驅(qū)動層，所有的新興技術(shù)在初期的時候背后有知識的重大發(fā)現(xiàn)或技術(shù)上的關(guān)鍵創(chuàng)新導致新產(chǎn)品的產(chǎn)生，形成核心驅(qū)動；第二是環(huán)境變革層，新技術(shù)的應用必須跟應用環(huán)境不斷交流互動，找到新的應用場景和新的需求，形成技術(shù)的應用領(lǐng)域和范式；如電動汽車在上世紀初汽車剛興起的時候也是當時的新產(chǎn)品，但當時因為其他條件因素，燃油汽車被市場選擇。第三是認知適配層，這是一個技術(shù)的社會認知過程；社會怎么認識新興的技術(shù)，背后的制度邏輯、技術(shù)邏輯、文化邏輯、資本邏輯使得社會認為這個技術(shù)對于社會是友好的還是帶來風險的，我們必須得服從這個技術(shù)還是技術(shù)服從人類，這也是在技術(shù)發(fā)展尤其在應用過程中有這樣一個認知適配過程，我們曾經(jīng)有一些技術(shù)在發(fā)展過程中在社會認知方面產(chǎn)生了問題，最后導致這個技術(shù)的應用產(chǎn)生了很大困難。最后就是治理范式層，在社會認知過程中不同的治理模式逐漸在形成，在社會認知過程中形成的議題跟人類的價值導向、治理的主體、路徑選擇、工具依賴的過程就是新興技術(shù)的治理范式。

為什么以前我們并沒有感到背后這樣的過程，應該說前幾次的工業(yè)革命過程中中國直接享受到最后這一層，因為最核心的技術(shù)產(chǎn)生、應用過程、社會認知都是在其他發(fā)達國家產(chǎn)生的，我們落后了，但我們可以享受技術(shù)的應用，同時，我們也把相關(guān)的治理模式接受下來。但是在第四次工業(yè)革命新一波浪潮中，中國本身也在頭班車上，所以很多新興技術(shù)我們也是開發(fā)者，是最先的應用者，同樣我們在社會認知、治理范式方面也必須得盡快跟上來。

具體有很多問題都可以討論，以人工智能作為一個技術(shù)來考慮，這也是最近這些年大家討論的比較多的。人工智能的治理，我們提出敏捷治理的模式，怎么樣能夠讓我們的治理模式有重大的改變改革去適應人工智能技術(shù)的高速發(fā)展，因為，中國對新興技術(shù)的治理從根本上說是要促進新興技術(shù)更加健康的發(fā)展。從基本的框架來講，首先要識別治理對象，對人工智能來說就是數(shù)據(jù)的問題、算法的問題、平臺企業(yè)的問題，這是治理的對象。治理理念是在效率公平安全自由等基本價值目標上做出平衡。參與的主體不但是政府、企業(yè)、公眾，還有很多的社會組織等都是我們需要依靠的治理主體。治理工具的應用要靠法律法規(guī)、行業(yè)標準、各種技術(shù)手段、社會的共識。把這個框架建立起來之后我們就可以推動敏捷治理的運行機制，研究在新技術(shù)帶動下的新經(jīng)濟特征，跟蹤市場的發(fā)展，加強監(jiān)管跟市場的溝通，靈活運用多元工具。

在具體實踐過程中，剛才談到我們的價值觀念是非常關(guān)鍵的，所以我們在確保人工智能安全和平等的底線上創(chuàng)新導向，這點是需要堅持、毫不動搖的。我們要鼓勵企業(yè)創(chuàng)新，利用人工智能賦能經(jīng)濟社會的發(fā)展，服務(wù)于可持續(xù)發(fā)展目標的實現(xiàn)。同時我們要及時識別人工智能帶來的風險，在適當?shù)臅r候給予規(guī)制，從基本價值理念上，創(chuàng)新驅(qū)動和敏捷治理兩個輪子要并駕齊驅(qū)。

治理主體要積極參與到協(xié)同互動的過程中，在傳統(tǒng)治理過程中政府跟企業(yè)相當于貓和老鼠的關(guān)系，但在新興技術(shù)的發(fā)展過程中，企業(yè)和政府應該坐到同一個桌子上大家進行有效的對話，讓政府更好的了解技術(shù)發(fā)展的過程和走向，政府要讓企業(yè)了解政府代表公眾有什么樣的擔心，從而找到更好的治理方式。治理對象也有一個分層，對應用場景對不同類型的問題有不同方式的治理。最后治理工具要靈活運用剛?cè)岵�濟。從宏觀層面要有一些原則性普適性的法律法規(guī)。國家最近出臺了個人信息保護法，中觀層面要有行為準則等軟法，國家新一代人工智能治理專家委員會2019年出臺的人工智能治理準則就屬于這一類。微觀層面也需要有相應的技術(shù)標準和監(jiān)管技術(shù)，在這些工具的綜合運用下為我們的新興技術(shù)更好的發(fā)展、更健康的應用提供更好的治理。

我的發(fā)言就到這里，謝謝大家。

由《財經(jīng)》雜志、財經(jīng)網(wǎng)(博客,微博)、《財經(jīng)》智庫主辦的“《財經(jīng)》年會2022：預測與戰(zhàn)略”11月27日-28日在北京召開，論壇聚焦“巨變下的共識重建”。

（嘉賓觀點據(jù)現(xiàn)場發(fā)言整理，未經(jīng)發(fā)言人本人確認）