人臉識別、語音識別、智能機器人……數字經濟時代，人工智能已經走入生產生活中，被視為經濟增長的新引擎、國際競爭的新陣地和推動智慧社會建設的有效工具。與此同時，人工智能在應用過程中產生的網絡系統(tǒng)攻擊、隱私泄露、數據權屬等安全問題也讓整個產業(yè)如鯁在喉。人工智能發(fā)展面臨哪些安全問題?產業(yè)有何應對之策?請關注本版報道。

5角錢一份的人臉信息被低價打包后在電商平臺上出售，之后被用于虛假注冊、網絡詐騙等違法犯罪活動，被盜人在毫不知情的情況下“丟了臉”;智能駕駛場景被“數據投毒”，自動駕駛汽車經過一個停車標志時，經過精心設計的噪聲擾動讓目標檢測系統(tǒng)無法準確識別標志，“眼見不為實”很可能導致交通意外……

現在，人工智能的數據挖掘分析能力不斷提升，收集個人信息呈現精準化、全面化、簡便化、隱秘化趨勢。人臉、指紋、聲紋、虹膜、心跳、基因等具有很強個人屬性的信息被收集、分析和利用，如果這些數據一旦被泄露或者濫用不僅會給個人帶來損失，還將對社會生產、社會治安乃至國家安全造成重大威脅。

發(fā)展可信賴的人工智能

從智能音箱在對話中“勸主人自殺”，到人工智能簡歷篩選系統(tǒng)對女性存在偏見，人工智能的安全問題不斷浮出水面。

人工智能系統(tǒng)面臨安全風險。加入微小的干擾，語音識別系統(tǒng)就可能出現識別錯誤;在生物特征識別過程中，構造一些對抗樣本的攻擊，系統(tǒng)會做出錯誤決策;網絡攻擊者通過分析人工智能系統(tǒng)的輸出結果和輸入數據之間的關系，可以逆向還原出原始數據……訓練數據的污染會導致訓練的算法模型決策出現偏差;輸入數據的異常會導致智能系統(tǒng)的運行錯誤;開源框架的漏洞為網絡攻擊者竊取系統(tǒng)數據提供“便利”。

人工智能應用引發(fā)安全質疑。數據深度偽造可以生成虛假視頻、虛假語音，如果這些內容大量生成與擴散，對個人隱私、社會安全、國家安全都將造成威脅;在新冠肺炎疫情防控過程中，人臉等生物信息也面臨被過度采集的安全風險;隨著人工智能輔助決策應用場景的增多，一些隱藏的社會偏見將破壞社會公平公正;手機軟件利用人工智能算法“殺熟”，根據手機類型的不同推薦不同類型的商品，打車時推薦不同價格、檔次的車輛……數據的過度采集、深度偽造、偏見歧視、智能竊取、資源濫用是人工智能面向產業(yè)化落地時遇到的安全挑戰(zhàn)。

專家表示，從人工智能到可信賴的人工智能，意味著產業(yè)需要在技術層面上解決魯棒性(穩(wěn)定性)、可解釋性和可復制性等核心技術問題。同時，為了大規(guī)模產業(yè)化應用，還必須考慮到人工智能的公平性和負責性，這些是人工智能必須解決的安全問題。

談“虎”色變大可不必

“人工智能相當于一個錘子，不能哪一個釘子都砸。”人工智能的技術進步可以給社會帶來正向的效益，不應因為現在面臨的安全憂慮而談“虎”色變。

以人工智能最受關注的數據安全領域為例，它與人工智能是互促發(fā)展的關系。當前人工智能尚處于海量數據“喂養(yǎng)”階段，數據安全是人工智能安全的重要保障，數據的質量和安全直接影響到人工智能應用的安全，如果能夠妥善處理數據，能夠促進高質量數據的集成，就能夠很有效地驅動人工智能往正向發(fā)展。

同時，人工智能技術應用到數據安全治理方面，能夠驅動數據安全治理向精準化、智能化、高效化和自動化等方向發(fā)展。人工智能能夠實現智能化的分析決策，提升海量數據的處理效率，提升數據內容識別的準確率。這些優(yōu)點能幫助安全治理自動化、智能化、高效化和精準化。

在發(fā)展中解決安全問題

人工智能發(fā)展中的安全問題在全球備受重視，各國都在戰(zhàn)略規(guī)劃、倫理規(guī)范、技術發(fā)展等方面采取了多種舉措。我國高度重視人工智能安全的建設，推進人工智能的安全應用和數據安全風險防范。

對于安全問題，中國信通院安全所信息安全研究部主任魏薇認為，因噎廢食不可取，要在人工智能發(fā)展中解決數據安全的問題。

倫理約束，法規(guī)引導。魏薇建議，構建我國人工智能優(yōu)質的數據資源，在發(fā)展中規(guī)避數據偏見、數據權屬等問題，同時，以數據安全促進人工智能發(fā)展。引導社會遵循人工智能的倫理規(guī)范，同時要積極參與到國際規(guī)則的制定中。建立人工智能數據安全相關的法律法規(guī)，特別是其中備受關注的算法、人臉識別、深偽等方面亟須相關的規(guī)章引導。加強對人工智能數據安全的監(jiān)管，包括線上線下多種方式的監(jiān)督檢查，對人工智能相關的產品應用和服務進行監(jiān)測評估。

技術應對，安全防御。健全標準體系，通過設置專門的人工智能安全研究組，開展一些急需標準的研制。創(chuàng)新人工智能安全技術手段，包括加強基礎理論的研究、建設完善我國人工智能開源學習框架，促進人工智能數據安全應用。培養(yǎng)人工智能安全方面的人才，通過企業(yè)和科研機構、高校等聯合進行人工智能安全課題的申報、技術的研發(fā)與應用，共同促進人工智能數據安全治理。(記者 林婧)

標簽： 人臉信息 人工智能 數字經濟 個人信息