專訪加州大學伯克利分校教授Pieter Abbeel：最終我們要給AI設置一個“關閉按鈕”否則很危險

      打破機器人重復動作的局限，實現機器人自我學習、識別環境并反饋，人類應如何與AI相處？作為一種“新型電力”，AI及衍生機器人必定會在未來占據重要的一席之地，但想實現這一目標，實現廣泛、普遍、合理使用AI的目標，人們仍需克服許多困難。

10月22日，第三方咨詢機構安永發布報告指出，中國大陸企業對人工智能的未來發展持有相對謹慎和保守的態度，68%的受訪企業預計，人工智能將在未來五年內，對行業產生較大甚至重大的影響；在政府的政策扶持和產業加快升級的背景下，企業的人工智能成熟度較高，但在網絡安全、數據管理、創新管理等方面，尚存在不足。

2009到2019年間，中國大陸的人工智能投資筆數不斷攀升，共累計投資2827億人民幣。在對人工智能的投資中，計算機視覺和智能機器人是主要投資領域。

一直以來，加州大學伯克利分校教授、伯克利人工智能實驗室主任Pieter Abbeel主要的研究領域專注于機器人與機器學習，尤其在深度強化學習領域處于領先地位。同時，他還是 Covariant.Ai （倉庫和工廠智能和機器人自動化）、Gradescope（人工智能打分系統）的聯合創始人和首席科學家。

近日，他在接受21世紀經濟報道記者專訪時認為，從工業機器人到家用機器人的發展過程中，最大的改變是，將重復動作的機器人轉變為機器人2.0，即能看見并能根據所處的情況產生反饋的機器人。今年以來，機器人對環境作出反饋的功能，已經發揮了實用功能。

值得人類關注的是，當AI真正“覺醒”后，它們會統治世界嗎？AI與人類懼怕的惡距離有多遠？

以下為對話實錄：

《21世紀》：今年上半年，全球都受到了新冠肺炎疫情的影響。在人類生活中，AI扮演了怎樣的角色？它會越來越重要嗎？

Pieter Abbeel：在病毒大流行的背景下，像后勤基礎設施這樣迫使員工聚集的工作，變得危險且重要，因為我們每個人都需要在網上購物，就需要物流。因此，我希望大型倉庫一類的場所運行起來可以更加自動化，更加安全可靠。另外，機器學習也有助于追蹤事物的發展和控制。

我希望在未來，AI可以幫助人們應對病毒、進行醫療服務。目前，我們在疫苗研發和藥物治療方面沒有明顯的進展，但是我相信AI有潛力在醫療服務方面有突出貢獻，遠比我們目前所達到的成果更好。

《21世紀》：AI的發展分為幾個階段，您認為目前我們處于哪個階段？

Pieter Abbeel：在最早的50-60年代，我們關注搜索和理論推理，發現AI可以證實一些人類尚無法證實的理論，也可以成為高超的棋手。但這些都基于非常清晰的規則，你可以理解為何AI會這樣做。

在上世紀末和本世紀初，AI在模塊識別和概率推理方面有了很大的進展。目前，受益于大量的數據，我們在這兩方面有了更大的進步，比如說計算機視覺。盡管這一技術問題沒有完全解決，但是在這過程中產生了許多成果，并投入到實際的商業活動中。

目前，我們正處于一個模塊識別高度發達的階段。人們想要解決一個問題，需要大量數據幫助計算機學習。

比如，機器人想要識別出一個行人或車輛，就需要在投入工作前學習無數行人和車輛的照片。但在未來，機器人可以自主學習，機器自動地去學習大量的數據，就像新生兒一樣自主地觀察世界，不需要人類去反復地教它，不需要標注大量信息。可能在未來五年，我們可以利用并看到無標識數據的影響，之后衍生出更多應用。

《21世紀》：普通人還不能在日常生活中應用深度強化學習，那么在目前這一階段最大的困難和最急迫的需求是什么？

Pieter Abbeel：的確，深度強化學習離普通人的生活很遠。但是，當我們考慮機器人只需要學習輸入的圖片，而非實際的動作或模仿時，科技已經有了很大的進步。在過去的幾年里，我們將深度強化學習和自主學習相結合，發現向狀態學習和向圖像學習，可以達到同樣的效果，我認為這是一個重要的突破。但是它還是不夠高效，還需要進行大量測試。

另一方面，如果我想要落地一套系統，我不會從強制學習開始，而是從模仿開始。我會首先收集人們駕駛車輛、完成工作的示范，之后讓機器人去模仿，這更加方便。之后再運用強制學習來提高、完善。

《21世紀》：我們距離廣泛使用家用機器人還需要多長時間？在發展家用機器人的過程中，我們面臨哪些困難和機遇？

Pieter Abbeel：每個家庭都有不同的情況、布置，有的家庭有寵物或者孩子，常常會把房間弄得一團糟。因此，當我考慮設計機器人時，就需要考慮機器人將來工作環境的構造。

我們可以在工廠里看到各種機器人在進行工作，但是它們只是在不停地重復同一個動作。

《21世紀》：AI已經被廣泛應用在自動駕駛、醫療服務和教育等領域，將來還會在其他哪些領域展現商業潛力？

Pieter Abbeel：我的博士導師說，AI是新型電力，它將無處不在。我很同意他的觀點。基于更多數據，很多人都可以對AI進行精準的預測，進而發揮其商業優勢。

在2020年，我看到的最大變化有：一，語言處理。今年，出現了一些預測性語言模型，如Google開發的產品。這些模型相較于之前有了很大的進步，人們會基于此開發出許多應用。比如對話機器人、運動機器人、娛樂機器人，它們可以和人們流暢地對話，進而提高機器語言轉化的能力。

二，機器人技術。許多事情不能僅僅靠重復動作來完成，你需要觀察、反饋。未來幾年，機器人將完成大部分人類的手部工作勞動。

在這一方面，盡管人們最常討論的是自動駕駛技術，但我覺得它的開發進展要比人們想象中的更困難，因為AI可能產生的錯誤是致命的，而沒有公司愿意讓你知道他們的系統可能會致命，因此這一技術的可靠性還不夠。在實驗室，你可能會開發出一個十分優秀的自動駕駛產品，但當把它引入現實生活中時，不同的車輛會遇到不同的駕駛員，系統很難達到高度的可靠性。

《21世紀》：在諸如安全、隱私等領域，AI面臨了哪些道德挑戰？我們能有什么解決措施？

Pieter Abbeel：的確很多人都有這樣的疑問，因為我們看到過很多AI未被合理使用的例子，比如偵測工具失靈、警察抓錯嫌疑人等等。因此，我們應該對AI的道德問題保持謹慎的態度。如果一個人犯錯了，那他只是犯了一個錯誤。但是如果AI犯錯了，那么將會發生無數次錯誤。

問題的關鍵在于，如何在AI做出道德選擇時測量它。盡管有時這一測量并不完美，但至少在測量后，我們可以開始研究并訓練它做出更好的決定。在技術的發展下，會有好的解決方法，但的確還有很長的路要走。

《21世紀》：當AI真正“覺醒”后，您認為它們會統治世界嗎？

Pieter Abbeel：我目前對這個問題還沒有答案。在現實生活中，一個人更聰明并不意味著他就有更大的權力。但是，如果AI比人類聰明上十萬倍，或許AI可能會統治世界或賺很多錢。這取決于我們想要的是什么，是要控制它們，還是當它們足夠聰明后做任何自己想做的事情？這是一個復雜的問題。

《21世紀》：是否有什么措施可以防止事態發展到這一步？比如說設定一些程序的標準？

Pieter Abbeel：在伯克利有一個人類AI共存中心，我們也在研究怎樣將AI置于控制之下，比如設置“關閉按鈕”，但可能一個機器人會通過肢體或情感的方式，阻止你關閉它。所以我們需要一個能夠理解人類正在觀察它，但不能完全理解人類意圖的AI系統。我們不希望AI能夠完全知道人類的需求，否則就會很危險。

你不能給機器人十分明確、嚴格的目標，機器人需要知道它們并不理解一切。