精彩試讀：
如果我們成功了
很久以前，我父母住在英國(guó)伯明翰大學(xué)附近。后來他們決定搬出這座城市，并把房子賣給了英語文學(xué)教授戴維•洛奇（David Lodge）。那時(shí)候，洛奇已經(jīng)是一位著名小說家了。我從未見過他，但我決定讀讀他的書：《換位》和《小世界》。書中的主要人物都是學(xué)者，他們從伯明翰搬到了加州伯克利。而我正是剛剛從伯明翰搬到伯克利的學(xué)者，這一系列的巧合似乎在提醒我要多多注意。
《小世界》中有一個(gè)特別的場(chǎng)景令我印象深刻。主人公是一位有抱負(fù)的文學(xué)理論家，他參加了一個(gè)重要的國(guó)際會(huì)議，并問一群領(lǐng)軍人物：“如果所有人都贊同你們的觀點(diǎn)，接下來會(huì)發(fā)生什么？”這個(gè)問題引起了恐慌，因?yàn)閷＜医M成員更關(guān)心的是智力競(jìng)賽，而不是弄清真相、獲得認(rèn)同。當(dāng)時(shí)我想到，我們可以對(duì)人工智能領(lǐng)域的領(lǐng)軍人物提出一個(gè)類似的問題：“如果你們成功了會(huì)如何？”該領(lǐng)域的目標(biāo)一直是創(chuàng)造出達(dá)到或超越人類水平的人工智能，但人們很少或根本沒有考慮過，如果我們創(chuàng)造出了這樣的人工智能會(huì)發(fā)生什么。
幾年后，我和彼得•諾維格（Peter Norvig）開始編寫一本新的人工智能教科書，書的第一版于 1995 年出版。這本《人工智能》的最后一節(jié)題為“如果我們成功了會(huì)如何”，它指出了出現(xiàn)好結(jié)果和壞結(jié)果的可能性，但沒有得出明確的結(jié)論。到 2010 年第三版出版的時(shí)候，許多人終于開始考慮，創(chuàng)造超越人類的人工智能可能不是一件好事，但這些人大多是局外人，而不是主流的人工智能研究人員。到了2013 年，我開始相信這個(gè)問題不僅是主流的人工智能研究人員應(yīng)該考慮的問題，而且可能是人類面臨的最重要的問題。
2013 年 11 月，我在倫敦南部一座久負(fù)盛名的藝術(shù)博物館——杜爾維奇繪畫館演講。聽眾大多是退休人員，他們不是科學(xué)家，但是普遍對(duì)智能問題感興趣，所以我只好做一次完全非技術(shù)性的演講。這似乎是一個(gè)在公共場(chǎng)合驗(yàn)證我的想法的合適場(chǎng)所。在解釋了人工智能是什么之后，我提出了 5 個(gè)“人類未來最大事件”的候選選項(xiàng)：
1. 我們滅亡了（因?yàn)樾⌒行亲矒�、氣候�(yàn)?zāi)難、流行病等）。
2. 我們都能永生（醫(yī)學(xué)攻克了衰老）。
3. 我們發(fā)明了超光速旅行，征服了宇宙。
4. 高級(jí)外星文明造訪了我們。
5. 我們發(fā)明了超級(jí)人工智能。
我認(rèn)為第 5 個(gè)候選選項(xiàng)，即我們發(fā)明了超級(jí)人工智能，將會(huì)勝出，因?yàn)槿绻赡�，超�?jí)人工智能將幫助我們避免災(zāi)難，實(shí)現(xiàn)永生和超光速旅行。它將代表我們文明的一次巨大飛躍，或者說一次突變。超級(jí)人工智能的到來在許多方面類似于高級(jí)外星文明的到來，但前者更有可能發(fā)生。也許最重要的是，人工智能不同于外星人，它是我們對(duì)其有發(fā)言權(quán)的東西。
然后，我讓聽眾想象一下，如果我們收到一個(gè)來自高級(jí)外星文明的通知，說它們將在 30 到 50 年后到達(dá)地球，會(huì)發(fā)生什么。 “亂作一團(tuán)”這個(gè)詞并不能準(zhǔn)確地描述這種情景。然而，我們對(duì)超級(jí)人工智能即將到來的反應(yīng)卻是……“冷淡”。（在后面的演講中，我用圖 1 所示的電子郵件交流的形式對(duì)此進(jìn)行了說明。）最后，我將超級(jí)人工智能的意義解釋為：超級(jí)人工智能的成功將是人類歷史上最重大的事件……或許是人類歷史上的最后一個(gè)事件。
在那之后幾個(gè)月，也就是 2014 年 4 月，我在冰島參加一個(gè)會(huì)議，美國(guó)國(guó)家公共廣播電臺(tái)打來電話，問我是否可以接受他們的采訪，談?wù)剟倓傇诿绹?guó)上映的電影《超驗(yàn)駭客》。雖然我已經(jīng)看過了劇情概要和影評(píng)，但我還沒有看過電影，因?yàn)槲耶?dāng)時(shí)住在巴黎，電影要到 6 月才會(huì)在巴黎上映。然而碰巧的是，我在從冰島回家的路上繞道去了波士頓，參加美國(guó)國(guó)防部的一個(gè)會(huì)議。所以，到達(dá)波士頓洛根機(jī)場(chǎng)后，我乘出租車去最近的電影院看了這部電影。我坐在第二排，看到約翰尼•德普飾演的加州大學(xué)伯克利分校人工智能教授遭到了對(duì)超級(jí)人工智能存有擔(dān)憂的“反人工智能激進(jìn)分子”的槍擊。我不由自主地癱倒在座位上。（又是巧合在警示我嗎？）在這名教授死去之前，他的意識(shí)被上傳到一臺(tái)量子超級(jí)計(jì)算機(jī)上，這臺(tái)計(jì)算機(jī)迅速超越了人類的能力，威脅要接管世界。
2014 年 4 月 19 日，我和物理學(xué)家邁克斯•泰格馬克（Max Teg-mark）、弗蘭克•威爾切克（Frank Wilczek）、史蒂芬•霍金（StephenHawking）合寫的關(guān)于《超驗(yàn)駭客》的影評(píng)被發(fā)表在了《赫芬頓郵報(bào)》上。其中包括我在杜爾維奇繪畫館的演講中談到的人類歷史上最重大的事件。從那時(shí)起，我便公開承認(rèn)，我的研究領(lǐng)域?qū)ξ易约核鶎俚奈锓N構(gòu)成了潛在危險(xiǎn)。
我們?nèi)绾巫叩浇裉欤?/STRONG>
人工智能的起源可以追溯到很久以前，但它正式啟動(dòng)是在 1956年。兩位年輕的數(shù)學(xué)家約翰•麥卡錫（John McCarthy）和馬文•明斯基（Marvin Minsky）說服了著名的信息論創(chuàng)始人克勞德•香農(nóng)（Claude Shannon）和 IBM（國(guó)際商業(yè)機(jī)器公司）第一臺(tái)商用計(jì)算機(jī)的設(shè)計(jì)者納撒尼爾•羅切斯特（Nathaniel Rochester）加入他們，一起在達(dá)特茅斯學(xué)院組織一個(gè)暑期項(xiàng)目。項(xiàng)目的目標(biāo)如下：
這項(xiàng)研究基于一個(gè)猜想：“學(xué)習(xí)”的各個(gè)方面或“智能”的任何特征在原則上都可以被精確地描述出來，所以人們可以制造一臺(tái)機(jī)器來模擬“學(xué)習(xí)”或“智能”。人們?cè)噲D讓機(jī)器使用語言，形成抽象概念，解決現(xiàn)在人類面臨的各種問題，并讓機(jī)器自我改進(jìn)。我們認(rèn)為，一個(gè)精英科學(xué)家小組如果共同努力一個(gè)夏天，就可以在其中的一個(gè)或多個(gè)問題上取得重大進(jìn)展。
不用說，我們花費(fèi)的時(shí)間已經(jīng)遠(yuǎn)遠(yuǎn)超過了一個(gè)夏天，但我們?nèi)栽谂鉀Q這些問題。
在達(dá)特茅斯會(huì)議后 10 年左右的時(shí)間里，人工智能取得了幾項(xiàng)重大成功，包括艾倫•羅賓遜（Alan Robinson）的通用邏輯推理算法和阿瑟•塞繆爾（Arthur Samuel）的西洋跳棋程序，這個(gè)程序通過自學(xué)戰(zhàn)勝了它的創(chuàng)造者。第一次人工智能泡沫在 20 世紀(jì) 60 年代末破裂，當(dāng)時(shí)，人們?cè)跈C(jī)器學(xué)習(xí)和機(jī)器翻譯方面的早期努力沒能達(dá)到預(yù)期。英國(guó)政府在 1973 年委托撰寫的一份報(bào)告中總結(jié)道：“到目前為止，該領(lǐng)域的任何發(fā)現(xiàn)都沒有產(chǎn)生當(dāng)初承諾的重大影響。”換言之，這些機(jī)器不夠智能。
幸運(yùn)的是，當(dāng)時(shí) 11 歲的我并不知道這份報(bào)告。兩年后，我得到了一臺(tái)辛克萊劍橋可編程計(jì)算器，我想讓它變得智能。然而，辛克萊的程序有 36 步運(yùn)算限制，這對(duì)于人類級(jí)別的人工智能來說還不夠大。我并沒有泄氣，而是使用倫敦帝國(guó)理工學(xué)院的CDC 6600超級(jí)計(jì)算機(jī)編寫了一個(gè)國(guó)際象棋程序——一沓兩英尺高的穿孔卡片。雖然這個(gè)程序不夠好，但是沒關(guān)系。我知道我想做什么。
到了 20 世紀(jì) 80 年代中期，我已經(jīng)成為加州大學(xué)伯克利分校的一名教授，由于所謂的“專家系統(tǒng)”的商業(yè)潛力，人工智能正在經(jīng)歷一次巨大的復(fù)興。當(dāng)這些系統(tǒng)被證明無法完成人們指派給它們的許多任務(wù)時(shí)，第二次人工智能泡沫破裂了。同樣，這些機(jī)器也不夠智能。人工智能的寒冬隨之而來。我在伯克利開設(shè)的人工智能課程目前有 900多名學(xué)生，而在 1990 年，我只有 25 名學(xué)生。
人工智能界吸取了教訓(xùn)：顯然，機(jī)器越智能越好，但我們必須做好功課才能做到這一點(diǎn)。這個(gè)領(lǐng)域與數(shù)學(xué)的關(guān)系變得尤為密切。人們將人工智能與歷史悠久的概率論、統(tǒng)計(jì)學(xué)和控制理論建立了聯(lián)系。今天，進(jìn)步的種子是在那個(gè)人工智能的寒冬播下的，包括對(duì)大規(guī)模概率推理系統(tǒng)以及后來眾所周知的深度學(xué)習(xí)的早期研究。
從 2011 年前后開始，深度學(xué)習(xí)技術(shù)開始在語音識(shí)別、基于機(jī)器視覺的物體識(shí)別和機(jī)器翻譯方面取得巨大進(jìn)步，以上是人工智能領(lǐng)域最重要的三個(gè)開放問題。從某些方面來看，機(jī)器在這些方面的能力已經(jīng)達(dá)到甚至超過了人類的能力。2016 年和 2017 年，DeepMind（英國(guó)人工智能公司）的 AlphaGo（阿爾法圍棋）擊敗了前世界圍棋冠軍李世石和后來的冠軍柯潔，而此前一些專家預(yù)測(cè)，這種事情如果會(huì)發(fā)生，也要到 2097 年才會(huì)發(fā)生。
如今，人工智能幾乎每天都會(huì)出現(xiàn)在媒體的頭條報(bào)道中。在大量風(fēng)險(xiǎn)投資的推動(dòng)下，成千上萬家初創(chuàng)公司應(yīng)運(yùn)而生。數(shù)以百萬計(jì)的學(xué)生參加在線人工智能和機(jī)器學(xué)習(xí)課程，該領(lǐng)域?qū)＜业哪晷娇蛇_(dá)數(shù)百萬美元。來自風(fēng)險(xiǎn)基金、國(guó)家政府和大公司的投資每年達(dá)到數(shù)百億美元，該領(lǐng)域過去 5 年獲得的資金超過了其在先前整個(gè)歷史中所獲得的總額。無人駕駛汽車和智能個(gè)人助理等已經(jīng)在醞釀中的技術(shù)進(jìn)步，很可能在未來 10 年左右對(duì)世界產(chǎn)生重大影響。人工智能潛在的經(jīng)濟(jì)效益和社會(huì)效益是巨大的，這為人工智能研究提供了巨大的動(dòng)力。
接下來會(huì)發(fā)生什么？
這種快速的進(jìn)步是否意味著我們即將被機(jī)器超越？不是。我們?cè)趽碛蓄愃频木哂谐祟愔悄艿臋C(jī)器之前，必須要實(shí)現(xiàn)幾項(xiàng)突破。
眾所周知，科學(xué)突破是很難預(yù)測(cè)的。為了了解到底有多難，我們可以回顧一下另一個(gè)領(lǐng)域的歷史，這個(gè)領(lǐng)域具有終結(jié)文明的潛力，那就是核物理學(xué)。
20 世紀(jì)初，也許沒有哪位核物理學(xué)家比質(zhì)子的發(fā)現(xiàn)者、“分裂原子的人”歐內(nèi)斯特•盧瑟福［Ernest Rutherford，圖 2（a）］更為杰出。與他的同事一樣，盧瑟福早就意識(shí)到原子核儲(chǔ)存了巨大的能量，然而，主流觀點(diǎn)認(rèn)為開發(fā)這種能源是不可能的。
1933 年 9 月 11 日，英國(guó)科學(xué)促進(jìn)協(xié)會(huì)在萊斯特舉辦年會(huì)，盧瑟福在晚間會(huì)議上發(fā)言。正如他之前幾次所做的那樣，他向原子能的前景潑了冷水：“任何想從原子的轉(zhuǎn)變中獲取能源的人都是異想天開�！钡诙煸缟�，倫敦《泰晤士報(bào)》報(bào)道了盧瑟福的演講［圖 2（b）］。
匈牙利物理學(xué)家利奧•西拉德［Leo Szilard，圖 2（c）］那時(shí)逃離了納粹德國(guó)，住在倫敦羅素廣場(chǎng)的帝國(guó)酒店。他早餐時(shí)閱讀了《泰晤士報(bào)》的報(bào)道，隨后出去散步，仔細(xì)思考著報(bào)道的內(nèi)容，構(gòu)想出了中子誘發(fā)的鏈?zhǔn)胶朔磻?yīng)。在不到 24 小時(shí)的時(shí)間里，釋放核能的問題從不可能變成了已經(jīng)基本解決。次年，西拉德申請(qǐng)了核反應(yīng)堆的保密專利。1939 年，法國(guó)頒發(fā)了第一項(xiàng)核武器專利。
這個(gè)故事的寓意是，與人類的聰明才智打賭是魯莽的，尤其是在我們的未來岌岌可危的時(shí)候。在人工智能界，一種否定主義正在出現(xiàn)，它甚至否定成功實(shí)現(xiàn)人工智能長(zhǎng)期目標(biāo)的可能性。這就像一名駕駛著載有全人類的公共汽車的司機(jī)說：“是的，我正盡我所能往懸崖邊開，但是相信我，在開到懸崖邊之前，我們的汽油會(huì)用完！”
我并不是說人工智能一定會(huì)成功，而且我認(rèn)為人工智能在未來幾年內(nèi)成功的可能性不大。盡管如此，為可能發(fā)生的事情做好準(zhǔn)備才是慎重之舉。如果一切順利，這將預(yù)示著人類進(jìn)入黃金時(shí)代，但我們必須面對(duì)的事實(shí)是，我們正計(jì)劃著制造出遠(yuǎn)比人類強(qiáng)大的實(shí)體。我們?nèi)绾未_保它們永遠(yuǎn)不會(huì)掌控我們？
為了對(duì)我們正在玩的火有一個(gè)初步的了解，請(qǐng)思考一下內(nèi)容推薦算法在社交媒體中發(fā)揮的作用。雖然這些算法不是特別智能，但它們能夠影響整個(gè)世界，因?yàn)樗鼈冎苯佑绊憯?shù)十億人。通常，此類算法旨在最大限度地提高點(diǎn)擊率，即用戶點(diǎn)擊展示條目的概率。那么，解決方案就是簡(jiǎn)單地展示用戶喜歡點(diǎn)擊的條目，對(duì)嗎？不對(duì)。正確的解決方案是改變用戶的偏好，從而使他們變得更可預(yù)測(cè)。對(duì)于更可預(yù)測(cè)的用戶，算法可以通過推送他們更可能會(huì)點(diǎn)擊的條目，而帶來更多收入。持有極端政治觀點(diǎn)的人往往更容易被預(yù)測(cè)出會(huì)點(diǎn)擊哪些條目。（頑固的中間派可能會(huì)點(diǎn)擊某一類文章，但算法很難想象這類文章由什么內(nèi)容組成。）與所有理性實(shí)體一樣，算法會(huì)學(xué)習(xí)如何修改它的環(huán)境狀態(tài)（在這個(gè)例子中是用戶的思想），從而使自身獲得的獎(jiǎng)勵(lì)最大化。其后果包括法西斯主義復(fù)活，支撐世界民主的社會(huì)契約被解除，這甚至可能導(dǎo)致歐盟和北約的終結(jié)。區(qū)區(qū)幾行代碼在得到了人類的幫助后，就可以導(dǎo)致上述后果�，F(xiàn)在想象一下，一個(gè)真正智能的算法能做什么？
AI新生
破解人機(jī)共存密碼——人類最后一個(gè)大問題
Human Compatible: Artificial Intelligence and the Problem of Control
《衛(wèi)報(bào)》（The Guardian）：今年關(guān)于人工智能最重要的一本書。
定價(jià)：88.00元
書號(hào)：ISBN 978-7-5217-1951-2
作者：斯圖爾特·羅素（Stuart Russell）
出版時(shí)間：2020年9月
頁數(shù)：376頁
裝幀：精裝
編輯推薦：
1. 在一個(gè)由超級(jí)AI主宰的世界里，人類如何保持獨(dú)立？
這本書提出一個(gè)大問題，給出一種解決方案。作者用三個(gè)大原則，一個(gè)“有益的AI”，帶你破解人機(jī)共存的密碼，這可能是人類面臨的最后一個(gè)大問題。
2. AI領(lǐng)軍人物，業(yè)界公認(rèn)的“標(biāo)準(zhǔn)教科書”作者，時(shí)隔25年，打造全新燒腦之作。
作者認(rèn)為，人類試圖將自己的目標(biāo)灌輸給機(jī)器，是注定要失敗的嘗試。這本書倡導(dǎo)一種顛覆性的新方法——逆強(qiáng)化學(xué)習(xí)，讓機(jī)器根據(jù)人類行為，學(xué)習(xí)人類目標(biāo)。
3. 埃隆•馬斯克、萬維鋼、姚期智、張宏江、黃鐵軍、周志華、周伯文、曾毅等專家鼎力推薦。
《思考，快與慢》作者丹尼爾•卡尼曼，《生命3.0》作者邁克斯•泰格馬克，《為什么》作者朱迪亞•珀?duì)�，《深度學(xué)習(xí)》作者約書亞•本吉奧 專業(yè)背書！
內(nèi)容簡(jiǎn)介：
從比爾•蓋茨、埃隆•馬斯克到霍金，眾多企業(yè)家和科學(xué)家都曾表示擔(dān)心AI對(duì)人類生存造成的威脅。真的有一天，人類會(huì)成為自己發(fā)明的機(jī)器的受害者嗎？
在過去相當(dāng)長(zhǎng)的一段時(shí)間里，人類之所以能控制地球，是因?yàn)槿祟惖拇竽X比其他動(dòng)物的大腦要復(fù)雜得多。但如果AI變得比人類更聰明，我們要如何掌控這個(gè)世界？智能是一種權(quán)力，我們能否控制智能，決定了我們未來的命運(yùn)。
這本書講述了我們?yōu)槔斫夂蛣?chuàng)造智能，在過去、現(xiàn)在和未來所做的嘗試。這很重要，并不是因?yàn)锳I正迅速成為當(dāng)前的一種普遍現(xiàn)象，而是因?yàn)樗俏磥淼闹鲗?dǎo)技術(shù)。世界上的各個(gè)大國(guó)正在意識(shí)到這一事實(shí)，各家大公司也早就知道這一點(diǎn)。
作者在書中提出了一個(gè)大問題：如何破解人機(jī)共存密碼，掌控比我們強(qiáng)大得多的智能，讓AI獲得新生？這可能是人類面臨的最后一個(gè)大問題。這本書的目的是解釋為什么這可能是人類歷史上的最后一件事，以及如何確保這不會(huì)成為現(xiàn)實(shí)。
作者簡(jiǎn)介：
© Peg Skorpinski
斯圖爾特·羅素（Stuart Russell）
加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)家，人類兼容人工智能中心（CHAI）主任，人工智能研究實(shí)驗(yàn)室指導(dǎo)委員會(huì)（BAIR）成員。
世界經(jīng)濟(jì)論壇人工智能和機(jī)器人委員會(huì)副主席，美國(guó)科學(xué)促進(jìn)會(huì)（AAAS）會(huì)士，美國(guó)人工智能協(xié)會(huì)（AAAI）會(huì)士。
曾與谷歌研究總監(jiān)彼得·諾維格合著，出版了人工智能領(lǐng)域里的“標(biāo)準(zhǔn)教科書”《人工智能》，該書被128個(gè)國(guó)家的1400多所大學(xué)使用。
獲得過多項(xiàng)科學(xué)榮譽(yù)，包括美國(guó)國(guó)家科學(xué)基金會(huì)總統(tǒng)青年研究員獎(jiǎng)、國(guó)際人工智能聯(lián)合會(huì)議（IJCAI）計(jì)算機(jī)與思想獎(jiǎng)、國(guó)際計(jì)算機(jī)學(xué)會(huì)（ACM）卡爾斯特朗杰出教育家獎(jiǎng)等，并受邀在TED、世界經(jīng)濟(jì)論壇演講。
媒體及專家評(píng)論：
這本關(guān)于人工智能未來風(fēng)險(xiǎn)和解決方案的書值得一讀，作者羅素很棒！
埃隆·馬斯克（Elon Musk）
特斯拉創(chuàng)始人兼CEO
人工智能到底發(fā)展到了哪一步，未來會(huì)怎么發(fā)展，這本書代表主流專家意見，能讓你迅速獲得“當(dāng)前科學(xué)理解”。作者是研究人工智能的教授，但書中并不過度討論技術(shù)，他關(guān)心更大的問題：人的偏好可以“算法化”嗎？人工智能是人類的威脅嗎？人能限制人工智能嗎？當(dāng)前的答案并不樂觀。到最后，你會(huì)發(fā)現(xiàn)人工智能的問題首先是“人”的問題：我們其實(shí)并不了解我們自己。
萬維鋼
科學(xué)作家
“得到”App《精英日課》專欄作者
這是一本引人入勝的巨作，無論一般讀者還是人工智能專家都將從中獲得啟發(fā)。羅素教授對(duì)于超級(jí)智能這個(gè)人工智能的重大問題做出了深刻明確的分析。更重要的是，他提出了一個(gè)新穎的人機(jī)關(guān)系處理方案，為解決超級(jí)智能這個(gè)重要問題開辟了一個(gè)嶄新的研究方向。
姚期智
中國(guó)科學(xué)院院士
2000年圖靈獎(jiǎng)得主
當(dāng)人們?yōu)槿斯ぶ悄芗夹g(shù)的突飛猛進(jìn)而歡呼雀躍，并期盼著超級(jí)人工智能到來時(shí)，我們不能忘了人類正面臨著一個(gè)非常關(guān)鍵的挑戰(zhàn)：如何確保人工智能的發(fā)展以人為本，基于人類的共同價(jià)值造福人類？這本書為我們帶來了羅素教授多年潛心的研究成果和深刻洞見，讀起來令人賞心悅目。
張宏江
智源研究院理事長(zhǎng)
源碼資本投資合伙人
人類可能在不久的將來制造出超越自己的強(qiáng)人工智能，我很高興人工智能知名學(xué)者斯圖爾特·羅素教授不僅仔細(xì)推敲了這種可能性，還提出了一種巧妙的應(yīng)對(duì)之策。
黃鐵軍
智源研究院院長(zhǎng)
北京大學(xué)教授
創(chuàng)造出達(dá)到或超越人類水平的人工智能會(huì)怎么樣？超級(jí)人工智能的成功為什么可能是人類歷史上的最后一個(gè)事件？人類是否還有希望？人工智能經(jīng)典教科書作者斯圖爾特·羅素的這本書值得每位關(guān)心人工智能的人士閱讀。
周志華
南京大學(xué)人工智能學(xué)院院長(zhǎng)
歐洲科學(xué)院外籍院士
自我們這一代人開始，科學(xué)地理解、探索、協(xié)同和管控超級(jí)智能機(jī)器，將變成一個(gè)越來越不能回避的嚴(yán)肅課題。如果說羅素的經(jīng)典教科書在過去幫助很多學(xué)者進(jìn)入了人工智能研究領(lǐng)域，他的這本新書則將讓更多人思考如何創(chuàng)造更好的人機(jī)協(xié)同的未來。
周伯文
京東集團(tuán)副總裁
書中倡議的構(gòu)建“盡可能安全且對(duì)人類有益的人工智能”應(yīng)成為全球人工智能研究與實(shí)踐者的共同愿景。羅素論述的人工智能安全風(fēng)險(xiǎn)與人類自身的隱憂無疑將“確保人工智能的安全有益”這個(gè)重要挑戰(zhàn)長(zhǎng)期置于未來人工智能研究的核心。
曾毅
中國(guó)科學(xué)院自動(dòng)化研究所研究員
類腦智能研究中心副主任
智源研究院人工智能倫理與可持續(xù)發(fā)展研究中心主任
這是我在相當(dāng)長(zhǎng)的一段時(shí)間以來，讀到的非常重要的一本書。它清晰地解釋了超級(jí)人工智能時(shí)代的到來如何威脅到人類的控制權(quán)。至關(guān)重要的是，這本書還提出了一個(gè)新穎的解決方案，以及我們應(yīng)該存有希望的原因。
丹尼爾·卡尼曼（Daniel Kahneman）
諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主，《思考，快與慢》作者
這是一場(chǎng)由人工智能先驅(qū)羅素帶來的智識(shí)之旅。羅素不僅以引人入勝且有說服力的方式解釋了人工智能帶來的風(fēng)險(xiǎn)，而且給出了一種切實(shí)可行的解決方案。
邁克斯·泰格馬克（Max Tegmark）
《生命 3.0》作者
與那些未來學(xué)家和警告人工智能風(fēng)險(xiǎn)的人不同，羅素是一位人工智能領(lǐng)域的專家。這本書比其他我所知的書更能教導(dǎo)公眾，而且這本書讀起來令人愉快、振奮人心。
朱迪亞·珀?duì)枺↗udea Pearl）
貝葉斯網(wǎng)絡(luò)之父，《為什么》作者
這本文筆優(yōu)美的書解決了人類面臨的一項(xiàng)基礎(chǔ)性挑戰(zhàn)：越來越智能的機(jī)器會(huì)按照我們的要求行事，卻不會(huì)按照我們的本意行事。如果你關(guān)心我們的未來，請(qǐng)務(wù)必閱讀。
約書亞·本吉奧（Yoshua Bengio）
2019 年圖靈獎(jiǎng)得主，《深度學(xué)習(xí)》作者
目錄：
前 言 //V
01 如果我們成功了
我們?nèi)绾巫叩浇裉欤?//006 接下來會(huì)發(fā)生什么？ //008 出了什么問題？ //010 我們能解決嗎？ //013
02 人類和機(jī)器的智能
智能 //017 計(jì)算機(jī) //035 智能計(jì)算機(jī) //043
03 人工智能在未來會(huì)如何發(fā)展？
近未來 //067 超級(jí)人工智能何時(shí)到來？ //080 概念上的突破即將到來 //082 想象一臺(tái)超級(jí)智能機(jī)器 //095 超級(jí)智能的局限 //098 人工智能如何造福人類？ //100
04 人工智能的濫用
監(jiān)督、勸導(dǎo)和控制 //107 致命性自主武器 //113 篡奪其他人類角色 //127
05 過于智能的人工智能
大猩猩問題 //137 邁達(dá)斯國(guó)王問題 //141 恐懼與貪婪：工具性目標(biāo) //145 智能爆炸 //147
06 不那么偉大的人工智能辯論
否認(rèn) //154 轉(zhuǎn)移話題 //162 部落主義 //166 難道我們不能…… //168
辯論重新開始 //176
07 人工智能：一種不同的方法
有益機(jī)器的原則 //182 樂觀的理由 //188 謹(jǐn)慎的理由 //190
08 可證明有益的人工智能
數(shù)學(xué)保證 //197 從行為中學(xué)習(xí)偏好 //202 輔助博弈 //205 要求和指示 //215 “主動(dòng)嗑電” //218 遞歸式自我完善 //220
09 復(fù)雜的難題：我們
不同的人 //227 許多人 //229 善良的、可惡的、愛嫉妒的人類 //242 愚蠢的、情緒化的人類 //247 人類真的有偏好嗎？ //250
10 問題解決了嗎？
有益的機(jī)器 //263 對(duì)人工智能的治理 //265 濫用 //269 衰弱與人類自主 //270
附錄 A 尋找解決方案 //273
附錄 B 知識(shí)與邏輯 //283
附錄 C 不確定性和概率論 //289
附錄 D 從經(jīng)驗(yàn)中學(xué)習(xí) //301
致 謝 //311
注 釋 //313
圖片版權(quán) //357
最新評(píng)論