AI科技評論 - 談雲說AI｜業界大咖共話AI如何平衡可信與可用－鑽石舞台

你是不是也經歷過這樣的「怪」事？剛剛瀏覽了幾頁某資格考試的網站，培訓機構就打來了電話；上周剛把想要售賣的房屋掛到某中介網站上，第二周從未聯繫過的數家中介公司就紛紛找上門；自己偶然上傳到社交網站上的照片，不但莫名其妙被盜用，甚至還被人用來非法獲益……當我們沉浸在AI技術帶來的便捷生活的同時，因「黑盒模式」引發的技術不可控、數據安全、隱私泄露等問題卻時有發生，讓人憂心忡忡。

就在12月14日，「談雲說AI」技術產業沙龍首季第一期上線，針對可信AI這一時下被廣泛熱議的話題，京東探索研究院算法科學家何鳳翔，中國信息通信研究院華東分院人工智能與大數據事業部主任陳俊琰以及華控清交信息科技（北京）有限公司標準負責人、戰略總監王雲河三位業界大咖匯聚一堂，深度探討「如何平衡好AI技術的可信與可用」，現場為可信AI出謀劃策。

信任危機頻出AI技術引發更多思考

今年年初，家住上海的小馬遭遇了這樣一件煩心事兒：僅僅是下載了一款遊戲並根據遊戲要求進行了人臉識別，怎料想一個月後小馬卻收到了自己信用卡在海南的刷卡記錄，簡直大跌眼鏡……

上述事件的發生絕非偶然，伴隨以個人隱私泄露以及數據濫用為代表的AI可信問題的層出不窮，的確為社會穩定和個人發展帶來了諸多不良影響。「如今信息多源且無法在短時間內追本溯源，如果數據使用存在監管漏洞就會直接導致個人隱私泄露甚至產生直接財務損失。」陳俊琰進一步分析了目前AI技術當中的信任危機。

中國信息通信研究院華東分院人工智能與大數據事業部主任陳俊琰

AI信任危機還可能引發比較嚴重的人身安全問題。「由於AI技術處在一種黑盒模型基礎上，在一些關鍵領域，例如醫療診斷、自動駕駛等這種性命攸關的行業中，如果出現信任危機就會產生十分可怕的後果。」何鳳翔分析說，這些危機會對行業發展、應用落地，都會產生巨大影響。

更為嚴重的是，如果一旦發生信任危機事件，權責很難界定和追究，甚至會造成社會混亂。有關信息顯示，今年以來共有8家各類持牌企業累計發生89起自動駕駛交通事故。「如今的自動駕駛的事故，到底屬於算法職責，還是人為職責，抑或是識別的不準確性或者道路環境的不確定性，還很難界定。」王雲河分析說，「舉個例子來說在AI應用中，有人提供數據建模，有人提供模型，如果模型訓練好後一旦出現差錯，因為多方參與，就很難界定問題到底出在哪裡。」

多方聚力探索合力共建可信AI生態

面對上述信任危機，各界始終在探尋解決之道。陳俊琰表示，針對可信AI的落地實踐，國際上主要是以指南、法案的形式對人工智能的可信度進行規範，以倫理、以人為本作為可信AI的核心；也有在標準制定上不斷探索的案例，通過構建人工智能管理框架，對可信AI進行監管以提升信賴度。「但這些都有不太完善的地方，例如法案或指南會讓可信AI有明確的界限，但極易產生『一刀切』的情況。」相比之下與國外不同，我國不斷進行政策層的完善，從政策、生態、法律、標準制定等方面綜合發力，比如《國家新一代人工智能標準體系建設指南》《促進可信人工智能發展倡議》等文件的出台。

對此京東探索研究院正從四大方面加大對可信AI的研究，即穩定性、可解釋性、隱私保護和公平性。何鳳翔表示：「我們從基礎理論出發來研究最前沿的問題，從這些理論問題、理論結果出發，設計新的可被信賴的全新AI算法，再嘗試把這些AI算法應用到產品中去，完成技術的最終落地。」交流現場，他還集中分享了京東探索研究院在可信AI方面的探索，表示未來非常希望能參與標準制定來進一步保障AI的可信。

京東探索研究院算法科學家何鳳翔

此外王雲河也提出：「在推進可信AI建設的過程中，AI產業需要各方共同努力。從數據流通和數據隱私保護角度看，可加入以多方安全計算等代表的密碼技術，夯實數據流通基礎設施底層支撐能力，加速標準、產業落地。」

華控清交信息科技（北京）有限公司標準負責人、戰略總監王雲河

對於如何解決AI信任問題，發展AI未來良性循環，三位業界大咖都不約而同給出了終極答案：發展AI可信生態。「可信AI涉及範圍廣泛、實操任務複雜，很難由一家企業或者機構憑藉一己之力帶來質的創造與飛躍，所以產學研用全鏈條協作是關鍵；未來業界需構建成熟且開放的生態系統，聚眾家之力才能帶來更多技術、標準以及實踐層面的突破。」何鳳翔代表京東探索研究院表達了對於可信AI未來的暢想。

「從產業層面來說，首先要打造法制體系和完善行業標準，兩者相輔相成、缺一不可；其次還要團結各方力量踐行可信人工智能。在此過程中企業其實是踐行可信AI的中堅力量，可以在數據篩選、算法優化、模型設計中解決隱私泄露、算法偏見、內容審核等問題來推進AI技術更加可信。「陳俊琰重點談道。

沙龍接近尾聲，三位專家還針對現場觀眾的提問進一步闡釋了可信AI的其他關鍵問題。值得肯定的是，本次沙龍通過對AI可用可信的探討，為未來AI技術發展提供了諸多有益參考；為深入探索可信AI落地、構築可信生態帶來助力。

鑽石舞台

鑽石鑽石亮晶晶

AI科技評論 - 談雲說AI｜業界大咖共話AI如何平衡可信與可用

歷史上的今天

留言列表

文章搜尋

最新文章

熱門文章

誰來我家

參觀人氣