人類與智能世界如何共處

2019年三季度以來，多家第三方大數據公司業務負責人被警方帶走協助調查。用大數據和人工智能技術為“套路貸”平臺提供系統、數據和催收，不但是當下個人隱私和數據安全問題的集中爆發，也是智能時代引發人文危機的一個縮影。

一方面，數字化、自動化、智能化技術的指數增長把人類帶入了激動人心的繁榮時代；另一方面，機器人、人工智能、生物工程和遺傳學不受約束地對人類生活甚至人類本身滲透和融合，將最終導致系統性忽視人類存在的基本原則。未來學家戈爾德·萊昂哈德在《人機沖突——人類與智能世界如何共處》中，將人類的這種處境形容為：“我們正處在天堂與地獄的混合體中，這被稱之為天獄（HellVen）。”

在他看來，人機沖突的基本邏輯在于：信息技術遵從的“摩爾定律”這種指數發展的速度已經擴展到很多領域，但人類道德、文化、社會體系卻并沒有相應的指數化增長。人工智能的發展速度更是高于摩爾定律，這種反差和沖突將越來越大。

如此，不但技術已經發展到從強化自然到替代自然的程度，人類的大腦算法也正在被各種智能化的理性計算替代，甚至人類已經成為這些技術產品控制的對象。當地球上既有的倫理文明、價值觀無法跟得上技術的腳步，人類的基本尊嚴就會受到空前的挑戰。

“人機沖突”最大的動力來自巨大的商業利益驅動。萊昂哈德指出，利用技術的指數發展特征連接大眾，提供廉價而容易上癮的移動設備，可能是有史以來最大的生意。在這方面，由于能夠創造每年上萬億美元的生意，數據確實已經成為新的石油，從大數據和網絡社會中挖掘資源的公司，正在迅速成為新一代的埃克森美孚石油公司，迫不及待地要為大眾提供新鴉片。用萊昂哈德的話，就是“如果搜集數據的能力被人工智能和物聯網放大一千倍，你一定可以聽到他們數鈔票的聲音。”

“人有病，天知否？”在這種技術變革與商業利益共同帶來的倫理困境中，萊昂哈德認為人類成為了數字精神分裂、數字肥胖、數字綜合征的受害者。包括人工智能、生物工程、認知運算在內的所有指數型技術，尤其是人類基因一旦進入到數字肥胖這種狀態，再想減肥，回歸到之前的生活模式就很難。我們會變得越來越像機器，以便更好地適應機械化的世界，比如大量的點贊、評論和加好友很容易讓人們沉迷到無法自拔。人們承受了太多毫無意義的人際關系，線下生活反而成為一種新的奢侈。

人類總是拒絕不了效率的誘惑，萊昂哈德警示道：我們終將被一個巨大的機器操作系統支配，這個操作系統不斷地自我學習，并把輸出反饋給我們，指導它不再需要我們貢獻的輸入。屆時，我們的價值將低于我們創造和訓練的技術。

《人機沖突》一書提出了“保護自然生理狀態的權利”“可以效率低下的權利”“斷網的權利”等5項新人權，也提出了15項不應該做的事情，還有9項原則。但是，如何保障這些權利和原則？如何激勵人們能夠認識到這些權利和原則？卻仍然是烏托邦式的一廂情愿。

從經濟學的角度看，由于強大的負外部性，倫理問題已經成為智能時代最嚴重的一個“公地悲劇”。

面對人類空前的人文危機，首當其沖的是需要組建適應智能時代的倫理委員會等組織，比如，中國已于2019年7月正式組建了國家科技倫理委員會。但是，筆者認為，更關鍵的在于需要讓道德融入人類智能化的發展過程，與指數化增長的技術同步進化。

萊昂哈德在書中也提出了，必須考慮所有指數型技術（包括人工智能、生物工程、認知運算，尤其是人類基因編輯）應具備的倫理準則——這既指發明者或創建者精心或無意嵌入機器中的準則，也包括機器可能隨時間推移自主學習和進化形成的準則。

但這仍然遠遠不夠。誠如貝索斯所言，我們需要注重不變的地方。人性亙古不變，倫理作為人類長期進化來的一種管理人性的機制，如何在人機沖突中演進以解決這些重大問題，恐怕還得回到對人性的探究和倫理學本身。所以，與其說是智能時代的人文危機，倒不如說是倫理學承載著新的關于人類命運的使命。