人類智慧和人工智能的未來

人工智能領(lǐng)域非常令人著迷，也很奇幻，發(fā)展過程充滿了起伏波折，每次高潮都有名人預測一段時期后會發(fā)生不可思議的奇跡，而之后又總是讓人有點失望卻無法放棄。這樣的故事情節(jié)是大數(shù)據(jù)、算力和算法發(fā)展的結(jié)果。如今大數(shù)據(jù)已經(jīng)不再成為問題，算力也在日新月異地快速提高，多種量子計算原型機已經(jīng)設(shè)計完成，不遠的未來即可投入商業(yè)使用。

英國數(shù)學家馬庫斯·杜·索托伊《天才與算法》是一本詳細了解人工智能算法最新發(fā)展狀況的很有價值的科普書。作者通過分析算法在棋類比賽、數(shù)學證明、繪畫、作曲、內(nèi)容創(chuàng)作、翻譯等需要人類創(chuàng)造力領(lǐng)域的進展，對比了人類思維與AI數(shù)學思維的異同點，幫助讀者客觀地了解和評估AI技術(shù)的發(fā)展路徑和對人類的影響。

人們對AI未來發(fā)展能否達到人類智慧的一個主要爭議是認為機器學習的結(jié)果是個“黑箱”，人類無法了解智能機器正確解答問題所依據(jù)的原理是什么。還有人堅持認為機器不會自動學習，它們只能在人類的安排之下學習和工作，因此AI永遠無法趕上人類智慧。這些觀點已經(jīng)落后于AI實際進展了。以AlphaGo為例，人們本來認為這種沒有固定棋路的博弈與國際象棋不同，AI無法勝任，結(jié)果是它戰(zhàn)勝了圍棋九段高手。新版本AlphaGo Zero可以在沒有學習任何人類對戰(zhàn)數(shù)據(jù)的情況下，在幾十天內(nèi)變得比AlphaGo強大得多。這代表著AI可以從一無所有開始，通過學習或訓練自己來打敗人類專家。對于很多人來說，幾十天的學習大概只能達到圍棋入門水平。

人類不能解釋AI根據(jù)機器學習做出的行為，其實并不是一件很令人驚訝的事情。仔細想想，我們其實在很多情況下也不明白自己會這樣想或者那樣做。但是人類不同之處在于擅長“歸納總結(jié)”，會編造一套理由解釋自己的想法或行為。而人工智能機器不具備這樣的動機去和人類互動。只是它不會說話，人們不知道它總結(jié)出來的“模式”或原因是什么。而很多時候，人類認定的理由或解釋也并不正確，這就是認知的發(fā)展過程。另一個人機差異是人類隨時都在利用外部輸入和自己感知的信息在進行模式學習和識別，這就是總結(jié)歸納和推理以及記憶過程。擅長這樣做的人顯得比別人有知識或者更聰明。機器學習其實也是采用同樣原理和過程，但是大多數(shù)人工智能學習還處于被動階段。如果機器和人類一樣不斷接受外部信息，自動學習、反饋調(diào)整和總結(jié)，AI顯然比人類更勝一籌。

從書中提供的AI在創(chuàng)造力方面的實際案例可以看出，智能機器和人類思維的一個不同點是機器沒有不可涉足的思維盲區(qū)。而人類因為大腦受到千百萬年進化的影響，形成了必須依賴情緒和動機的思考模式，這種依賴又變成了一套固定模式，限制了人類可以探索的很多領(lǐng)域。AI算法走出的棋步、作畫和譜曲的風格、形成的文字內(nèi)容，會讓人們在吃驚之余，認識到那些被人類忽略的可能性，可以說，人類從中認識到了自身的局限性和不足。這種不斷突破原有系統(tǒng)的約束而得到的無窮創(chuàng)意超過了人類能力。

人工智能算法已經(jīng)侵入最依賴人類智慧的領(lǐng)域，以作者的數(shù)學專業(yè)來看，通過算法進行數(shù)學證明已經(jīng)完全沒有實質(zhì)性障礙。人工智能近年來在人類擅長領(lǐng)域的突飛猛進開始引發(fā)人類深深的憂慮。人工智能在作曲、文學、繪畫等方面不受任何局限的創(chuàng)造力，可以創(chuàng)作出很多超現(xiàn)實作品。在實驗室里，研究人員發(fā)現(xiàn)一種新算法可以在與數(shù)據(jù)交互時做出動態(tài)調(diào)整，一段時間之后，連當初開發(fā)它的程序員可能都無法理解算法所做的選擇了，智能機器之間甚至可以形成一種人類無法理解的交流方式。

如果機器和機器，或者機器和人類之間可以交流，那時候，在智力層面將無法區(qū)分人類和機器，而且機器在很多方面會超越人類。這就是庫茲韋爾說的“奇點”，這一奇跡的到來似乎并不特別遙遠。人類的群體行為是受到倫理和法律限制的，而機器既沒有情緒和同理心，也沒有任何形成規(guī)范的客觀環(huán)境。如果人類失去了對機器自主學習算法的控制，智能機器是否能夠形成和人類社會兼容的行為規(guī)范？人類是否能夠?qū)C器自主學習算法設(shè)定更高層次的限制，劃定一個機器無法逾越的行動界限呢？隨著人工智能算法的快速發(fā)展，這些問題變得越來越緊要了。