鑽石舞台

掃碼訂閱《中國信息安全》雜誌

郵發代號 2-786

征訂熱線：010-82341063

隨着人工智能的爆發式增長，對可信品質的關注度也提升到了前所未有的高度，各界均在不斷探索將更多的可信理念從基礎能力、算法技術、應用場景和產品設備等不同層面進行融合實踐，人工智能可信賴程度逐步提升。

近日，中國信息通信研究院聯合京東探索研究院等近30家政產學研單位共同發布《可信人工智能產業生態發展報告（2022年）》。

報告對人工智能產業融合可信要素的發展態勢進行總體分析，研判發展趨勢並提出措施建議，希望能為社會各界提供借鑑和參考，助力可信人工智能產業生態發展。

政策發布上，全球持續探索人工智能立法，推動可信人工智能範式法制化。自2021年以來，從歐盟發布人工智能領域的第一份綜合性法案《人工智能法案》，到美國推出《2022算法問責法案》，再到中國深圳、上海等各地方相繼推動人工智能立法條例。各國針對人工智能算法的監測、人工智能應用的審查的相關監管法規不斷增加，人工智能治理已進入建章立制階段。

技術研究上，提升人工智能系統穩定性、隱私保護技術占據可信人工智能技術研究主流，可解釋性、公平性等技術研究緊隨其後。當前以對抗訓練、梯度屏蔽為代表的人工智能系統穩定性技術穩步發展；以同態加密、多方安全計算、差分隱私等為代表的隱私安全技術發展迅速；可解釋性增強技術研究當前仍處於初期階段，科技巨頭推出多個AI可解釋性工具及服務；提升人工智能公平性主流方法為通過構建完整異構數據集及引入公平決策量化指標算法，以減輕決策偏差。

標準研製上，行業組織成為可信人工智能標準重要推進者，涵蓋多個可信人工智能領域。國際標準化組織和國際電工委員ISO/IEC布局最早，涉及AI系統偏差、風險管理、AI系統質量模型、神經網絡魯棒性等；電氣和電子工程師協會（IEEE）主要以隱私、可解釋為突破點；中國人工智能產業發展聯盟牽頭制定了《可信AI操作指引》和《可信AI示範區管理辦法》，開展可信AI測試工具徵集和可信AI試評估等落地實踐。

產業生態上，倫理、法律研究進一步深入，在硬件、技術、應用及支撐體系等層面蓬勃發展，形成兼顧穩定性、可解釋性、隱私保護和公平性，涵蓋基礎硬件、技術平台、產品設備、應用場景等多元化產業生態。其中，基礎能力方面為可信AI提供可信能力、數據安全、平台系統等服務。理論與技術方面主要圍繞計算機視覺、自然語言處理、智能語音等垂直領域，在隱私保護、數據標註、精準識別、噪聲處理等方面不斷提升算法公平性、穩定性與可解釋性水平，有效賦能各類產業應用。產品與設備方面目前已逐步滲透至機器人、汽車、醫療器械、智能終端、AR/VR設備等領域，以「安全專網」「地圖引擎」「終端感知」等形式打造兼具穩定性、合規性、可解釋性等特徵的功能體系。應用場景方面目前已湧現出面向隱私安全保護、風險識別與控制、數據傳輸與共享等領域的諸多案例，並已在金融、醫藥、教育、製造等環節深入開展商業化應用，加速全產業鏈的可信生態形成。標準測試與諮詢設計方面目前已形成較為完善的可信AI標準與評測體系，覆蓋國際、國內、行業、團體標準四大類，並且在可信人工智能總體框架、可解釋AI發展與實踐等領域陸續發布了一系列研究成果。