專訪加州大學(xué)伯克利分校教授Pieter Abbeel：最終我們要給AI設(shè)置一個“關(guān)閉按鈕”否則很危險

      打破機(jī)器人重復(fù)動作的局限，實(shí)現(xiàn)機(jī)器人自我學(xué)習(xí)、識別環(huán)境并反饋，人類應(yīng)如何與AI相處？作為一種“新型電力”，AI及衍生機(jī)器人必定會在未來占據(jù)重要的一席之地，但想實(shí)現(xiàn)這一目標(biāo)，實(shí)現(xiàn)廣泛、普遍、合理使用AI的目標(biāo)，人們?nèi)孕杩朔S多困難。

10月22日，第三方咨詢機(jī)構(gòu)安永發(fā)布報告指出，中國大陸企業(yè)對人工智能的未來發(fā)展持有相對謹(jǐn)慎和保守的態(tài)度，68%的受訪企業(yè)預(yù)計，人工智能將在未來五年內(nèi)，對行業(yè)產(chǎn)生較大甚至重大的影響；在政府的政策扶持和產(chǎn)業(yè)加快升級的背景下，企業(yè)的人工智能成熟度較高，但在網(wǎng)絡(luò)安全、數(shù)據(jù)管理、創(chuàng)新管理等方面，尚存在不足。

2009到2019年間，中國大陸的人工智能投資筆數(shù)不斷攀升，共累計投資2827億人民幣。在對人工智能的投資中，計算機(jī)視覺和智能機(jī)器人是主要投資領(lǐng)域。

一直以來，加州大學(xué)伯克利分校教授、伯克利人工智能實(shí)驗(yàn)室主任Pieter Abbeel主要的研究領(lǐng)域?qū)Ｗ⒂跈C(jī)器人與機(jī)器學(xué)習(xí)，尤其在深度強(qiáng)化學(xué)習(xí)領(lǐng)域處于領(lǐng)先地位。同時，他還是 Covariant.Ai （倉庫和工廠智能和機(jī)器人自動化）、Gradescope（人工智能打分系統(tǒng)）的聯(lián)合創(chuàng)始人和首席科學(xué)家。

近日，他在接受21世紀(jì)經(jīng)濟(jì)報道記者專訪時認(rèn)為，從工業(yè)機(jī)器人到家用機(jī)器人的發(fā)展過程中，最大的改變是，將重復(fù)動作的機(jī)器人轉(zhuǎn)變?yōu)闄C(jī)器人2.0，即能看見并能根據(jù)所處的情況產(chǎn)生反饋的機(jī)器人。今年以來，機(jī)器人對環(huán)境作出反饋的功能，已經(jīng)發(fā)揮了實(shí)用功能。

值得人類關(guān)注的是，當(dāng)AI真正“覺醒”后，它們會統(tǒng)治世界嗎？AI與人類懼怕的惡距離有多遠(yuǎn)？

以下為對話實(shí)錄：

《21世紀(jì)》：今年上半年，全球都受到了新冠肺炎疫情的影響。在人類生活中，AI扮演了怎樣的角色？它會越來越重要嗎？

Pieter Abbeel：在病毒大流行的背景下，像后勤基礎(chǔ)設(shè)施這樣迫使員工聚集的工作，變得危險且重要，因?yàn)槲覀兠總€人都需要在網(wǎng)上購物，就需要物流。因此，我希望大型倉庫一類的場所運(yùn)行起來可以更加自動化，更加安全可靠。另外，機(jī)器學(xué)習(xí)也有助于追蹤事物的發(fā)展和控制。

我希望在未來，AI可以幫助人們應(yīng)對病毒、進(jìn)行醫(yī)療服務(wù)。目前，我們在疫苗研發(fā)和藥物治療方面沒有明顯的進(jìn)展，但是我相信AI有潛力在醫(yī)療服務(wù)方面有突出貢獻(xiàn)，遠(yuǎn)比我們目前所達(dá)到的成果更好。

《21世紀(jì)》：AI的發(fā)展分為幾個階段，您認(rèn)為目前我們處于哪個階段？

Pieter Abbeel：在最早的50-60年代，我們關(guān)注搜索和理論推理，發(fā)現(xiàn)AI可以證實(shí)一些人類尚無法證實(shí)的理論，也可以成為高超的棋手。但這些都基于非常清晰的規(guī)則，你可以理解為何AI會這樣做。

在上世紀(jì)末和本世紀(jì)初，AI在模塊識別和概率推理方面有了很大的進(jìn)展。目前，受益于大量的數(shù)據(jù)，我們在這兩方面有了更大的進(jìn)步，比如說計算機(jī)視覺。盡管這一技術(shù)問題沒有完全解決，但是在這過程中產(chǎn)生了許多成果，并投入到實(shí)際的商業(yè)活動中。

目前，我們正處于一個模塊識別高度發(fā)達(dá)的階段。人們想要解決一個問題，需要大量數(shù)據(jù)幫助計算機(jī)學(xué)習(xí)。

比如，機(jī)器人想要識別出一個行人或車輛，就需要在投入工作前學(xué)習(xí)無數(shù)行人和車輛的照片。但在未來，機(jī)器人可以自主學(xué)習(xí)，機(jī)器自動地去學(xué)習(xí)大量的數(shù)據(jù)，就像新生兒一樣自主地觀察世界，不需要人類去反復(fù)地教它，不需要標(biāo)注大量信息。可能在未來五年，我們可以利用并看到無標(biāo)識數(shù)據(jù)的影響，之后衍生出更多應(yīng)用。

《21世紀(jì)》：普通人還不能在日常生活中應(yīng)用深度強(qiáng)化學(xué)習(xí)，那么在目前這一階段最大的困難和最急迫的需求是什么？

Pieter Abbeel：的確，深度強(qiáng)化學(xué)習(xí)離普通人的生活很遠(yuǎn)。但是，當(dāng)我們考慮機(jī)器人只需要學(xué)習(xí)輸入的圖片，而非實(shí)際的動作或模仿時，科技已經(jīng)有了很大的進(jìn)步。在過去的幾年里，我們將深度強(qiáng)化學(xué)習(xí)和自主學(xué)習(xí)相結(jié)合，發(fā)現(xiàn)向狀態(tài)學(xué)習(xí)和向圖像學(xué)習(xí)，可以達(dá)到同樣的效果，我認(rèn)為這是一個重要的突破。但是它還是不夠高效，還需要進(jìn)行大量測試。

另一方面，如果我想要落地一套系統(tǒng)，我不會從強(qiáng)制學(xué)習(xí)開始，而是從模仿開始。我會首先收集人們駕駛車輛、完成工作的示范，之后讓機(jī)器人去模仿，這更加方便。之后再運(yùn)用強(qiáng)制學(xué)習(xí)來提高、完善。

《21世紀(jì)》：我們距離廣泛使用家用機(jī)器人還需要多長時間？在發(fā)展家用機(jī)器人的過程中，我們面臨哪些困難和機(jī)遇？

Pieter Abbeel：每個家庭都有不同的情況、布置，有的家庭有寵物或者孩子，常常會把房間弄得一團(tuán)糟。因此，當(dāng)我考慮設(shè)計機(jī)器人時，就需要考慮機(jī)器人將來工作環(huán)境的構(gòu)造。

我們可以在工廠里看到各種機(jī)器人在進(jìn)行工作，但是它們只是在不停地重復(fù)同一個動作。

《21世紀(jì)》：AI已經(jīng)被廣泛應(yīng)用在自動駕駛、醫(yī)療服務(wù)和教育等領(lǐng)域，將來還會在其他哪些領(lǐng)域展現(xiàn)商業(yè)潛力？

Pieter Abbeel：我的博士導(dǎo)師說，AI是新型電力，它將無處不在。我很同意他的觀點(diǎn)。基于更多數(shù)據(jù)，很多人都可以對AI進(jìn)行精準(zhǔn)的預(yù)測，進(jìn)而發(fā)揮其商業(yè)優(yōu)勢。

在2020年，我看到的最大變化有：一，語言處理。今年，出現(xiàn)了一些預(yù)測性語言模型，如Google開發(fā)的產(chǎn)品。這些模型相較于之前有了很大的進(jìn)步，人們會基于此開發(fā)出許多應(yīng)用。比如對話機(jī)器人、運(yùn)動機(jī)器人、娛樂機(jī)器人，它們可以和人們流暢地對話，進(jìn)而提高機(jī)器語言轉(zhuǎn)化的能力。

二，機(jī)器人技術(shù)。許多事情不能僅僅靠重復(fù)動作來完成，你需要觀察、反饋。未來幾年，機(jī)器人將完成大部分人類的手部工作勞動。

在這一方面，盡管人們最常討論的是自動駕駛技術(shù)，但我覺得它的開發(fā)進(jìn)展要比人們想象中的更困難，因?yàn)锳I可能產(chǎn)生的錯誤是致命的，而沒有公司愿意讓你知道他們的系統(tǒng)可能會致命，因此這一技術(shù)的可靠性還不夠。在實(shí)驗(yàn)室，你可能會開發(fā)出一個十分優(yōu)秀的自動駕駛產(chǎn)品，但當(dāng)把它引入現(xiàn)實(shí)生活中時，不同的車輛會遇到不同的駕駛員，系統(tǒng)很難達(dá)到高度的可靠性。

《21世紀(jì)》：在諸如安全、隱私等領(lǐng)域，AI面臨了哪些道德挑戰(zhàn)？我們能有什么解決措施？

Pieter Abbeel：的確很多人都有這樣的疑問，因?yàn)槲覀兛吹竭^很多AI未被合理使用的例子，比如偵測工具失靈、警察抓錯嫌疑人等等。因此，我們應(yīng)該對AI的道德問題保持謹(jǐn)慎的態(tài)度。如果一個人犯錯了，那他只是犯了一個錯誤。但是如果AI犯錯了，那么將會發(fā)生無數(shù)次錯誤。

問題的關(guān)鍵在于，如何在AI做出道德選擇時測量它。盡管有時這一測量并不完美，但至少在測量后，我們可以開始研究并訓(xùn)練它做出更好的決定。在技術(shù)的發(fā)展下，會有好的解決方法，但的確還有很長的路要走。

《21世紀(jì)》：當(dāng)AI真正“覺醒”后，您認(rèn)為它們會統(tǒng)治世界嗎？

Pieter Abbeel：我目前對這個問題還沒有答案。在現(xiàn)實(shí)生活中，一個人更聰明并不意味著他就有更大的權(quán)力。但是，如果AI比人類聰明上十萬倍，或許AI可能會統(tǒng)治世界或賺很多錢。這取決于我們想要的是什么，是要控制它們，還是當(dāng)它們足夠聰明后做任何自己想做的事情？這是一個復(fù)雜的問題。

《21世紀(jì)》：是否有什么措施可以防止事態(tài)發(fā)展到這一步？比如說設(shè)定一些程序的標(biāo)準(zhǔn)？

Pieter Abbeel：在伯克利有一個人類AI共存中心，我們也在研究怎樣將AI置于控制之下，比如設(shè)置“關(guān)閉按鈕”，但可能一個機(jī)器人會通過肢體或情感的方式，阻止你關(guān)閉它。所以我們需要一個能夠理解人類正在觀察它，但不能完全理解人類意圖的AI系統(tǒng)。我們不希望AI能夠完全知道人類的需求，否則就會很危險。

你不能給機(jī)器人十分明確、嚴(yán)格的目標(biāo)，機(jī)器人需要知道它們并不理解一切。