如何防止人臉識別濫用？自動駕駛?cè)绻�出車禍了誰埋單？一些突破性的技術(shù)和應(yīng)用，往往伴隨著倫理上的爭議。繼國家科技倫理委員會成立之后，我國科技倫理治理又發(fā)布了標志性文件。

　　 近日，中共中央辦公廳、國務(wù)院辦公廳印發(fā)了《關(guān)于加強科技倫理治理的意見》（下稱《意見》），從總體要求、明確科技倫理原則、健全科技倫理治理體制、加強科技倫理治理制度保障、強化科技倫理審查和監(jiān)管、深入開展科技倫理教育和宣傳等方面作出具體部署。

　　 《意見》提出了治理要求——倫理先行、依法依規(guī)、敏捷治理、立足國情、開放合作，同時明確了科技倫理原則，包括增進人類福祉、尊重生命權(quán)利、堅持公平公正、合理控制風險、保持公開透明�？萍蓟顒討�(yīng)鼓勵利益相關(guān)方和社會公眾合理參與，建立涉及重大、敏感倫理問題的科技活動披露機制。

　　 加快生命科學(xué)、AI等倫理立法

　　 去年12月召開的中央全面深化改革委員會第二十三次會議指出，黨的十八大以來，黨中央組建國家科技倫理委員會，完善治理體制機制，推動科技倫理治理取得積極進展。要堅持促進創(chuàng)新與防范風險相統(tǒng)一、制度規(guī)范與自我約束相結(jié)合，強化底線思維和風險意識，把科技倫理要求貫穿到科學(xué)研究、技術(shù)開發(fā)等科技活動全過程，覆蓋到科技創(chuàng)新各領(lǐng)域，加強監(jiān)測預(yù)警和前瞻研究，及時從規(guī)制上做好應(yīng)對，確�？萍蓟顒语L險可控。要避免把科技倫理問題泛化，努力實現(xiàn)科技創(chuàng)新高質(zhì)量發(fā)展與高水平安全的良性互動。

　　 《意見》指出，制定完善科技倫理規(guī)范和標準，建立科技倫理審查和監(jiān)管制度，提高科技倫理治理法治化水平，加強科技倫理理論研究。

　　 例如，“十四五”期間，重點加強生命科學(xué)、醫(yī)學(xué)、人工智能等領(lǐng)域的科技倫理立法研究，及時推動將重要的科技倫理規(guī)范上升為國家法律法規(guī)。

　　 以人工智能為例，盡管目前AI技術(shù)還遠未達到像《銀翼殺手》《西部世界》等影視作品中的水平，但AI技術(shù)在帶來便利的同時，也存在各種新的風險，如何協(xié)調(diào)人工智能發(fā)展與倫理治理的關(guān)系顯得尤為迫切。

　　 清華大學(xué)蘇世民書院院長、國家新一代人工智能治理專業(yè)委員會主任薛瀾曾在接受第一財經(jīng)記者專訪時表示，如果人工智能的治理跟不上，不但有可能給社會帶來各種風險，而且在某種程度上也會制約AI本身的發(fā)展。

　　 他告訴記者，當前人工智能治理面臨的最大挑戰(zhàn)，是我們沒有一套比較成熟的體系來規(guī)制其潛在的風險，這和過去是有差別的。因為之前我們一直都在用比較成熟的技術(shù)，中國可以借鑒其他國家治理這些技術(shù)的經(jīng)驗。而現(xiàn)在不同的是，在第四次工業(yè)革命背景下，我國的人工智能技術(shù)和其他國家一樣都處于發(fā)展期，所以大家都沒有現(xiàn)成的規(guī)制體系。這樣就使得我們在發(fā)展科技的同時，也在同步發(fā)展我們的規(guī)制體系�！斑@可能是人工智能發(fā)展面臨的最大挑戰(zhàn)�！�

　　 薛瀾說，在科技領(lǐng)域，很多技術(shù)都像硬幣的兩面，在帶來正面效應(yīng)的同時也會存在風險，而人工智能可能只是一個比較突出的領(lǐng)域。

　　 科研人員倫理責任

　　 《意見》提到，要完善政府科技倫理管理體制，壓實創(chuàng)新主體科技倫理管理主體責任，發(fā)揮科技類社會團體的作用，引導(dǎo)科技人員自覺遵守科技倫理要求。

　　 比如，科技人員要主動學(xué)習(xí)科技倫理知識，增強科技倫理意識，自覺踐行科技倫理原則，堅守科技倫理底線，發(fā)現(xiàn)違背科技倫理要求的行為，要主動報告、堅決抵制�？萍柬椖浚ㄕn題）負責人要嚴格按照科技倫理審查批準的范圍開展研究，加強對團隊成員和項目（課題）研究實施全過程的倫理管理，發(fā)布、傳播和應(yīng)用涉及科技倫理敏感問題的研究成果應(yīng)當遵守有關(guān)規(guī)定、嚴謹審慎。

　　 就在近期，科技部公布50多起教育、醫(yī)療機構(gòu)醫(yī)學(xué)科研誠信案件調(diào)查處理結(jié)果，多人被終身取消科技計劃項目申報資格。

　　 一位申請過多個科研項目的雙一流高校教師對第一財經(jīng)稱，目前從中央到地方松綁政策越來越多，但是在實操流程上還是有一些落差，因為確實有一些科研人員的作風和誠信存在問題，而信任機制是需要逐漸建立的，等這個機制建立好之后，這些申請的流程、環(huán)節(jié)可能就會更少，他們投入在科研業(yè)務(wù)上的時間也會更加充裕。