首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 人工智能列表 >> 正文

違規(guī)、歧視、安全問題 如何應對AI時代的風險?

2019年9月4日 06:56  第一財經(jīng)  

人們在生活中已經(jīng)開始習慣用語音控制電子設備、用圖像識別人臉、讓機器處理家務,人工智能正在全方位滲透到我們生活的每一個角落。同時,據(jù)估計,人工智能的經(jīng)濟潛力高達15.7萬億美元。

然而,隨著落地場景的不斷增多,使用范圍的不斷擴大,人工智能應用也暴露出一些問題,尤其是其帶來的誠信問題、安全問題和社會問題引發(fā)了監(jiān)管機構、業(yè)界和公眾的廣泛關注。根據(jù)普華永道的一項最新報告,只有當各家企業(yè)采用負責任的人工智能項目,并在開展項目之前經(jīng)過深思熟慮時,其經(jīng)濟潛力才能成為現(xiàn)實。

  人工智能正面臨五大風險與挑戰(zhàn)

目前,用戶在應用人工智能時,主要面臨來自五個方面的風險和挑戰(zhàn)。

第一,合規(guī)。目前針對人工智能的監(jiān)管還處于探索階段,遠遠落后于應用落地的速度。相關的法律法規(guī)較少,合規(guī)要求相對模糊,監(jiān)管的不確定性是企業(yè)面臨的重要風險。

監(jiān)管要求的落地是企業(yè)面臨的另一項挑戰(zhàn)。數(shù)據(jù)是人工智能的基礎,在應用人工智能時,企業(yè)需要滿足包括數(shù)據(jù)收集、隱私保護等要求。2017年,谷歌旗下人工智能子公司DeepMind所開發(fā)的移動應用Streems因收集患者醫(yī)療病歷被英國信息委員會裁定違背了英國數(shù)據(jù)保護法。2019年5月,出于對侵犯個人隱私的擔憂,美國舊金山通過一項法令禁止該城市的政府機構使用人臉識別技術。

在特定的情形下,企業(yè)還需要向監(jiān)管機構證明復雜的人工智能應用程序是如何做出決策的,以判斷是否滿足監(jiān)管要求,這對企業(yè)和監(jiān)管機構而言均有一定的難度。

第二,道德和倫理。決策偏見可能是人工智能應用中最突出的道德風險。亞馬遜公司在利用人工智能算法進行求職簡歷審核時發(fā)現(xiàn),由于科技行業(yè)簡歷大多都是男性投遞的,其機器學習引擎在接受訓練之后會優(yōu)先選取男性求職者,給女性簡歷以更低的評級。美國部分州的司法部門使用了一套人臉識別系統(tǒng)(COMPAS)來預測罪犯再次犯罪的概率,以決定是否批準保釋或假釋,然而從預測結果來看,被錯誤標記為高風險再犯罪的黑人人數(shù)幾乎是白人的兩倍。而那些真正實施再犯罪的人群中,被錯誤標記為低風險的白人人數(shù)卻是黑人人數(shù)的兩倍。這些案例顯示出人工智能算法在決策時有可能產(chǎn)生偏見和歧視。

誠信問題是人工智能容易引發(fā)的另一個問題,從事直播工作的網(wǎng)絡紅人喬碧羅一直使用一種基于人工智能的換臉算法修飾臉部,給觀眾留下了人美聲甜的印象。但在幾個月前的一次直播中,其用來修飾臉部的濾鏡和圖片偶然被關閉,直播畫面中出現(xiàn)了“蘿莉”變“大媽”的一幕,引發(fā)人們對于應用人工智能帶來欺詐問題的熱議。

第三,安全。人工智能應用的功能雖然強大,但前提是確保安全,尤其是當人工智能應用于與人身安全直接相關的領域,如自動駕駛、醫(yī)療、工業(yè)控制等,安全應當被置于首要地位。2018年末和2019年初,波音公司兩駕737Max客機連續(xù)墜毀,失事原因很可能是由于飛機自動駕駛系統(tǒng)在錯誤的信號下判斷飛機有失速風險,選擇降低機頭,使飛機俯沖。此過程中,駕駛員曾嘗試拉起飛機,但自動駕駛系統(tǒng)沒有將操控權交還駕駛員,仍舊控制飛機使其繼續(xù)俯沖,最終釀成慘劇。這兩起重大的空難迫使我們?nèi)ニ伎既斯ぶ悄艿陌踩L險。

第四,決策過程模糊。人工智能的決策過程通常較為復雜,對使用者來說,該決策過程就像黑盒,很難知曉其決策的邏輯和依據(jù)。這也使得人們對人工智能做出的決策是否可信產(chǎn)生擔憂。

第五,管控。管控能力不足是很多企業(yè)在應用人工智能時都會遇到的問題。人工智能發(fā)展的過程具備動態(tài)和自適應的特征,針對傳統(tǒng)靜態(tài)流程的管控方法可能并不適用。有銀行曾經(jīng)利用人工智能進行小額貸款審批,結果發(fā)現(xiàn)其智能算法將部分小額貸款發(fā)放至不具備償付能力的用戶手中,給銀行帶來財務和聲譽的損失。全球尚未形成一套適用于人工智能領域的治理框架,相關的治理原則、方法和控制還在進一步研究。

如何應對人工智能帶來的風險與挑戰(zhàn)

從網(wǎng)絡直播到求職招聘,從自動駕駛到智能安防,人類已開始大踏步邁入智能時代。盡管還面臨一些挑戰(zhàn),人工智能的大潮已經(jīng)勢不可擋。政府和企業(yè)是人工智能領域的主要推動力量,我們認為政府應當主要從制度建設,企業(yè)應當主要從治理和流程上來應對當下的風險和挑戰(zhàn)。

對政府而言,在推動新一代人工智能發(fā)展的同時,需要進一步加強監(jiān)管,使監(jiān)管能夠跟上技術的發(fā)展和應用的落地。監(jiān)管要求通常并不會抑制新技術的發(fā)展,相反,穩(wěn)定的監(jiān)管環(huán)境是新興業(yè)務發(fā)展的良好土壤,法規(guī)越明確,監(jiān)管越明晰,企業(yè)面對的合規(guī)不確定性越小,越能夠明確業(yè)務發(fā)展的方向。政府可以通過頂層設計的方式,設立相關的監(jiān)管機構,出臺相應的法律法規(guī),明確法律主體責任,明晰監(jiān)管要求等促進行業(yè)自律,為行業(yè)發(fā)展提供良好的制度環(huán)境。

對企業(yè)而言,我們建議企業(yè)在應用人工智能技術改善工藝和流程時,從合規(guī)性、公平性、安全性、可解釋性、可控性五個方面應對人工智能帶來的風險和挑戰(zhàn),構建負責任和可信的人工智能應用。我們的具體建議包括:

首先,建立人工智能合規(guī)庫,以檢驗企業(yè)在部署人工智能應用時是否充分查詢并滿足了相關適用的法律法規(guī)要求。

其次,人工智能產(chǎn)生偏見的原因可能不只來源于算法本身,也可能來自于人為因素,比如由于個體經(jīng)歷和認知不同而造成訓練樣本選取的偏向。企業(yè)可以選擇適當?shù)某绦蚝头椒z驗用于訓練算法模型的樣本數(shù)據(jù),確保其遵守組織的道德準則和反歧視原則;盡管不論通過何種方法,都很難做出對每一方都公平的決定,但企業(yè)可以基于某種客觀準則調(diào)優(yōu)人工智能系統(tǒng),以降低偏見,使決策盡可能公平。

再次,由于人工智能數(shù)據(jù)和系統(tǒng)可能因錯誤、惡意攻擊等原因失效而產(chǎn)生嚴重后果,所以必須從一開始就將安全納入到人工智能開發(fā)過程中,確保安全覆蓋所有人工智能系統(tǒng)、數(shù)據(jù)和通信領域。

此外,要想讓人們信任人工智能系統(tǒng),就有必要及時向利益相關方提供必要的說明和解釋,使黑盒變透明。企業(yè)可以利用特定的方法和程序,使人工智能的機制和模型更好地被它的最終用戶所理解,從而降低運營、聲譽和財務方面的風險。

最后,為確保企業(yè)人工智能應用得到合理的管控,需要建立起動態(tài)的人工智能治理機制,將人工智能與商業(yè)戰(zhàn)略相結合,設立相應的崗位和流程,建立快速響應的監(jiān)控和預警機制,確保組織能及時發(fā)現(xiàn)問題,并做出調(diào)整。

人工智能被眾多業(yè)界領袖視作“第四次工業(yè)革命”的驅(qū)動引擎,其顛覆性可比電力、計算機、互聯(lián)網(wǎng),然而,能力越大責任越大,如果人工智能不能“向善”,則勢必給人類帶來大災難。越來越多的企業(yè)在應用人工智能的過程中,開始關注到可信與負責任的問題。對于普華永道而言,“解決重要問題,營造社會誠信”也成為指導人工智能項目,應對人工智能風險與挑戰(zhàn)的原則。

(作者系普華永道中國網(wǎng)絡安全與隱私保護服務合伙人)

編 輯:值班記者
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構成任何投資及應用建議。如網(wǎng)站內(nèi)容涉及作品版權和其它問題,請在30日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
工信部張云明:大部分國家新劃分了中頻段6G頻譜資源
精彩專題
專題丨“汛”速出動 共筑信息保障堤壩
2023MWC上海世界移動通信大會
中國5G商用四周年
2023年中國國際信息通信展覽會
CCTIME推薦
關于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業(yè)務經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉載、摘編、復制、鏡像