雙面AI：風險與可信博弈，科技如何向善？

從自動駕駛、AI醫療再到工業生產，以及我們生活的各個領域，AI正在展現巨大變革賦能的潛力。但是，隨著AI應用的廣度和深度不斷拓展，諸如算法安全、數據歧視、數據濫用等諸多問題也顯露出一些風險與隱患。從而，引發人們對人工智能信任的思考。

7月9日，在2021世界人工智能大會可信AI論壇上，《促進可信人工智能發展倡議》（以下簡稱“倡議”）正式發布。該倡議由可信AI論壇發起，聯合發布單位包括中國信通院、中國科學院自動化研究所中英人工智能倫理與治理研究中心、京東探索研究院、螞蟻集團等。

上述倡議旨在倡導政產學研各界加快形成國際協同治理共識，促進社會對可信AI的理解和重視，充分挖掘人工智能的產業和社會價值。上海市經濟和信息化委員會主任吳金城對21世紀經濟報道記者表示，發展可信AI，推動人工智能的透明可視，安全可控，多元包容已成為全球共識，也是未來人工智能健康發展的必由之路。

他認為有三種方式，一是推動加密技術，安全多方計算、聯邦學習等安全技術的應用。提升AI技術安全特性和數據保護能力。二是建立測試測評體系。加快構建完善可信AI相關標準，研發創新測試測評技術。三是加快完善制度規范。在國家相關法律和上海市地方性法規框架下研究制定生物信息安全、數據安全、個人隱私等領域的法律法規，以制度保障推動可信AI發展。

從自動駕駛、AI醫療再到工業生產，以及我們生活的各個領域，AI正在展現巨大變革賦能的潛力。甘俊 制

風控不再是人與人的斗爭

事實上，當我們把決策交給人工智能的時候，人工智能首先必須證明自己是值得信賴的。因此，基于此的可信任研究，就形成了全球共識。

工業和信息化部科技司高技術處處長徐鵬表示，尤其是在與人類的生產生活密切相關安全領域的風險防范和挑戰，比如倫理道德、算法、個人信息的濫用和隱私的泄露以及相應保護問題，是現在大家關注熱點之一。由此可見，構建人工智能基礎安全保障體系，促進可信的人工智能健康發展任務非常迫切。

“未來的風控將不再是人和人的斗爭，而是AI與AI的博弈。”螞蟻集團副總裁、首席人工智能科學家漆遠博士向21世紀經濟報道記者透露，在支付寶上，每天上億筆交易背后，發起攻擊的早已不是散戶，而是專業的黑產團伙。

為了應對復雜多變的黑產攻擊，如何持續加強風控模型的抗打擊能力，做到“魔高一尺，道高一丈”，成為擺在所有AI從業者面前的難題。

據了解，從2018年開始，漆遠與一批AI技術骨干，在人工智能模型算法中融入經濟學“博弈理論”，開發了一項業界全新的技術——“智能對抗”，即通過結合AI和博弈對抗，讓機器自動且實時、動態地對自身系統進行安全性攻擊，從而提升模型能力，使模型處理結果更加準確。

這一技術類似于金庸小說里的“雙手互搏”。因其具有對風險知識形成感知、分析和預測的能力，未來將成為可信AI領域的核心安全技術。

在中國科學院自動化研究所中英人工智能倫理與治理研究中心主任曾毅看來，可信人工智能系統，必須有在線連續學習和隨時糾正能力。“從技術的角度看，最新人工智能技術進展模型現在看來都是不可信的。現在人工智能的技術，還不足夠談到真正的可信，所以，它是一個起始點。另外，可信人工智能絕對不僅僅是技術問題，還有社會的視角。如何利用技術賦能跨文化的互信，在我看來是真正實現可信人工智能不得不做的事情，甚至是最后成功的關鍵。”

亟須建立行業標準

作為數字經濟中“抵御風險”的關鍵，可信AI技術目前已在螞蟻集團包括反欺詐、反洗錢、反賭博、企業聯合風控、數據隱私保護在內的多個風控場景下落地。

除金融風控場景外，可信AI技術還被廣泛應用于數據隱私保護、金融科技服務等多個領域。今年6月，十三屆全國人大常委會第二十九次會議表決通過包括數據安全法在內的多項法案及兩項決定。數據安全法第四條提出，維護數據安全，應當堅持總體國家安全觀，建立健全數據安全治理體系，提高數據安全保障能力。

這標志著，數據安全已經上升到總體國家安全觀層面，與國家安全掛鉤。而各界對此密切關注。

“無論是AI還是科學技術，可信的方式有很多，像穩定性、可解釋性、隱私保護、公平性，我們如何把這些綜合起來形成統一的共識體？”歐洲科學院外籍院士、澳大利亞科學院院士、悉尼大學教授陶大程提出了自己的問題，由于缺乏可解釋性，也限制了人工智能更廣泛的應用和賦能，比如說無人駕駛車在道路上出現狀況了之后，該如何定責，因為無法解釋，駕駛員無法在短短幾秒鐘之內，對道路產生判斷。

一定程度上來說正是因為標準的缺失，導致人工智能的應用落地受到了限制。陶大程進一步認為，不管歐盟的GDPR也好，還是中國的隱私保護條例也好，都說明用戶對數據使用要更謹慎，說明了用戶對個人信息的保護，是有相當的權利的。只有將上述四個能力綜合后，做到明確的責任，才能找到合適的方式度量可信人工智能。

毫無疑問，人工智能在更多領域起到的作用舉足輕重，例如醫療診斷、無人駕駛等場景下，很可能一個微小算法錯誤，都可能導致致命災難。因此，制定一定的量化指標和行業標準，在產品研發、評測的過程中，才能更加嚴格評估和遵循規則。

智能時代已加速到來，科技向善是科學技術發展最根本的要義。“向善主要是指兩個方面，一是指你的意圖好還是壞？另外一個方面是，你做這一個事情的后果是什么。技術的發展也帶來了公平的問題，真正的科技向善，應該是賦予每個人更多發展的權利，每個人跟得上這個時代，享受這個紅利和普惠性。”

在他看來，無論一家企業還是一個行業，提到信任，就要從責任入手。只有好的意圖，才能達成好的后果。從而建立相互影響、相互支持、相互依賴的健康有序發展生態。