首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 人工智能 >> 正文

推動人工智能安全高效發(fā)展

2024年5月6日 07:35  經(jīng)濟日報  

自動駕駛的汽車安全穿行在城市的車流中,人工智能(AI)生成的文章與圖片在社交媒體上頻頻出現(xiàn),工廠里搭載著智能系統(tǒng)的流水線以前所未有的高效率運轉(zhuǎn)……人工智能正在成為重塑生產(chǎn)生活、引領(lǐng)時代變革的重要力量。與此同時,隨著人工智能技術(shù)的持續(xù)發(fā)展,應(yīng)用場景不斷拓展,一系列安全風(fēng)險與挑戰(zhàn)隨之產(chǎn)生。如何讓人工智能在安全、穩(wěn)定、高效的軌道上良性發(fā)展,成為業(yè)界普遍關(guān)注的問題。

垂直領(lǐng)域機遇空前

作為先進技術(shù)的標(biāo)桿,人工智能領(lǐng)域的任何風(fēng)吹草動都可能引發(fā)全球關(guān)注。從ChatGPT橫空出世到Sora刷新認知,只用了1年多的時間。在此期間,國內(nèi)的“百模大戰(zhàn)”打得如火如荼,一批通過備案的大模型已經(jīng)向各行業(yè)及社會公眾開放。全球范圍內(nèi),人工智能的競爭日趨激烈。

咨詢機構(gòu)麥肯錫預(yù)計,以AIGC為代表的AI技術(shù)將給全球經(jīng)濟帶來超過7.9萬億美元價值,到2030年之前,如果生成式AI應(yīng)用于各行業(yè),每年總經(jīng)濟效益高達6.1萬億美元至7.9萬億美元。

近日,在中國發(fā)展高層論壇2024年年會“人工智能發(fā)展與治理專題研討會”上,中國科學(xué)院副院長吳朝暉表示,人工智能將成為第四次工業(yè)革命的標(biāo)配,將加速傳統(tǒng)產(chǎn)業(yè)的轉(zhuǎn)型升級,實現(xiàn)質(zhì)量變革、效益變革和動力變革,重塑工業(yè)的基礎(chǔ)再造、生產(chǎn)和服務(wù)模式創(chuàng)新的各個環(huán)節(jié),引領(lǐng)新型工業(yè)化發(fā)展,為智能經(jīng)濟發(fā)展提供全新動能。

如何在新一輪產(chǎn)業(yè)革命中搶占先機?這是機遇,也是挑戰(zhàn)。

人工智能作為一種技術(shù)工具,需要與產(chǎn)業(yè)結(jié)合,推動產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型,從而促進經(jīng)濟社會發(fā)展。我國龐大的人口規(guī)模、應(yīng)用場景與完整的產(chǎn)業(yè)鏈,為產(chǎn)業(yè)落地提供了堅實的環(huán)境支持。360集團創(chuàng)始人周鴻祎表示,如果企業(yè)在某個業(yè)務(wù)領(lǐng)域有獨特的業(yè)務(wù)數(shù)據(jù),就應(yīng)在這一垂直領(lǐng)域把大模型訓(xùn)練好,并將其與企業(yè)業(yè)務(wù)工具結(jié)合在一起。未來,企業(yè)里將不會只有一個超級大模型,而是有多個小規(guī)模的、百億級的大模型,每個大模型只從事一個場景的工作。

充分發(fā)揮場景落地優(yōu)勢,在垂直領(lǐng)域發(fā)力,正成為當(dāng)前國內(nèi)企業(yè)發(fā)展人工智能的共識。騰訊云副總裁、騰訊云智能負責(zé)人、優(yōu)圖實驗室負責(zé)人吳運聲介紹,目前,騰訊已將AI大模型應(yīng)用到多個業(yè)務(wù)場景中,在產(chǎn)業(yè)落地方面,基于騰訊云TI平臺推出的行業(yè)大模型,通過結(jié)合行業(yè)專業(yè)知識和數(shù)據(jù)訓(xùn)練,以及企業(yè)自身的數(shù)據(jù)進行精調(diào),幫助企業(yè)快速生成專屬模型,目前已經(jīng)面向20多個行業(yè)輸出了超過50個行業(yè)大模型解決方案。

3月27日,百度智能云“AI Cloud Day:大模型應(yīng)用產(chǎn)品發(fā)布會”發(fā)布通過大模型重構(gòu)和升級之后的7款產(chǎn)品,覆蓋營銷內(nèi)容的創(chuàng)作、數(shù)字人、智能客服等七大垂直領(lǐng)域。百度智能云副總裁喻友平表示,大模型作為一種普適性的應(yīng)用,一定要和場景緊密結(jié)合。當(dāng)前業(yè)界普遍思考,怎樣把大模型用到企業(yè)中去。

業(yè)內(nèi)人士認為,對多數(shù)企業(yè),特別是中小微企業(yè)而言,以小規(guī)模、垂直化的大模型作為切入點,可以高效快速實現(xiàn)人工智能對產(chǎn)業(yè)的數(shù)字化賦能。同時將企業(yè)在垂直領(lǐng)域的智能化應(yīng)用開發(fā)交給專業(yè)的智能產(chǎn)品服務(wù)商,使“專才”更專,效率更高。

作為生產(chǎn)智能化產(chǎn)品和解決方案的服務(wù)商,山東浪潮智能生產(chǎn)技術(shù)有限公司基于基礎(chǔ)通用模型,正在訓(xùn)練研發(fā)圍繞智能生產(chǎn)的“智產(chǎn)大模型”。浪潮智能生產(chǎn)總經(jīng)理宋志剛表示,對于制造業(yè)來說,以人工智能與行業(yè)場景的深度融合為主線,與制造業(yè)企業(yè)生產(chǎn)環(huán)節(jié)深度結(jié)合,充分發(fā)揮深度學(xué)習(xí)、自主決策等優(yōu)勢,才能提升生產(chǎn)過程的智能化水平。浪潮智能生產(chǎn)以智產(chǎn)大模型為支撐,以“多維數(shù)據(jù)融合與智能優(yōu)化引擎”為技術(shù)核心,打造了智能生產(chǎn)數(shù)據(jù)分析平臺,并已實際應(yīng)用于多家制造業(yè)企業(yè),對生產(chǎn)效率有顯著提升作用。據(jù)了解,專精于發(fā)動機活塞環(huán)制造的福建東亞機械有限公司在采用該智能平臺后,通過機器視覺數(shù)據(jù)與行業(yè)數(shù)據(jù)集微調(diào),生產(chǎn)效率提高20%,產(chǎn)品合格率由之前的90%提升到99%。

監(jiān)管面臨新的挑戰(zhàn)

人工智能在創(chuàng)造前所未有機遇的同時,也伴隨著超越以往范疇的風(fēng)險,對監(jiān)管提出了嚴峻考驗。

人工智能帶來的安全問題,呈現(xiàn)在AI模型的數(shù)據(jù)獲取、數(shù)據(jù)訓(xùn)練以及應(yīng)用上線運營全過程。吳運聲認為,AI本體安全或AI內(nèi)生安全,要重點關(guān)注AI模型和算法自身在可靠性、公平性、可解釋性、透明性等方面的安全缺陷;AI應(yīng)用安全,是AI模型從開發(fā)、測試、部署到運行交互等完整生命周期內(nèi)的應(yīng)用安全;AI衍生安全,也叫AIGC內(nèi)容安全,主要是生成內(nèi)容的涉黃、涉暴等違法違規(guī)內(nèi)容的審核。長期來看,伴隨著生成式AI的發(fā)展,AI倫理和AGI可控性將是AI安全的焦點。

百度法律研究中心主任陳晨表示,隨著大模型的普及和快速迭代,確保其輸出的內(nèi)容符合用戶預(yù)期和法律要求變得至關(guān)重要。大模型的內(nèi)容輸出風(fēng)險,本質(zhì)上是模型的推理能力和邏輯風(fēng)險。這些風(fēng)險主要體現(xiàn)在模型可能出現(xiàn)“偏見”“誤判”“幻覺”等現(xiàn)實情況。因此,多元數(shù)據(jù)集對大模型發(fā)展至關(guān)重要。當(dāng)前,我國生成式人工智能和大模型技術(shù)創(chuàng)新仍處于初級階段,數(shù)據(jù)訓(xùn)練需要盡可能地包容和多樣,而高質(zhì)量、具有良好價值觀的數(shù)據(jù)往往具有版權(quán)。如果因為高質(zhì)量內(nèi)容的缺失,而使生成式人工智能產(chǎn)生某種偏見,產(chǎn)生推理邏輯風(fēng)險,將不利于產(chǎn)業(yè)的深度融合和公共服務(wù)水平的提升。

從企業(yè)角度出發(fā),宋志剛認為,數(shù)據(jù)是一個核心點。智能模型的決策,建立在訓(xùn)練數(shù)據(jù)基礎(chǔ)之上,一方面,訓(xùn)練數(shù)據(jù)的不準(zhǔn)確會影響智能模型的決策,而用于訓(xùn)練樣本的數(shù)據(jù)則面臨被泄露或者被篡改的風(fēng)險。他建議,可以基于傳感器等生產(chǎn)智能化設(shè)備,多維度采集數(shù)據(jù),建立起與數(shù)據(jù)準(zhǔn)確性、完整性、有效性相關(guān)的管理機制。同時,加強技術(shù)攻關(guān),基于小樣本數(shù)據(jù)進行快速學(xué)習(xí),不斷調(diào)優(yōu)模型參數(shù)。此外,還可以建立數(shù)據(jù)多重授權(quán)和安全防護機制來保障數(shù)據(jù)安全。

隨著人工智能越來越廣泛應(yīng)用于生產(chǎn)生活的方方面面,在使用中產(chǎn)生的關(guān)于真實性、道德要求、權(quán)責(zé)歸屬等議題的討論逐漸增多。

大模型具有工具屬性,既可以成為好人的幫手,也可能成為壞人的幫兇。周鴻祎表示,合理的監(jiān)管,可以對人工智能帶來正向的推動作用。除了監(jiān)管,還要尋找技術(shù)方法,比如在AI生產(chǎn)視頻里加入不可更改、不可替換、不可修改的內(nèi)部水印等。

中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒認為,應(yīng)通過技術(shù)發(fā)展回應(yīng)和解決安全問題。不發(fā)展是最大的不安全,我們在技術(shù)和產(chǎn)業(yè)的國際競爭中必須以發(fā)展為制度設(shè)計的總目標(biāo)。

治理體系逐步完善

人工智能的安全與治理問題,關(guān)乎產(chǎn)業(yè)發(fā)展方向與速度,關(guān)乎供給雙方權(quán)利與義務(wù),更關(guān)乎國際競爭中的優(yōu)勢與主動。

北京航空航天大學(xué)法學(xué)院院長助理、副教授趙精武表示,一國對人工智能的法律規(guī)制不僅影響著本國的產(chǎn)業(yè)發(fā)展和風(fēng)險治理,更決定著該國在全球人工智能治理中的話語權(quán)。同時,在全球化的背景下,人工智能技術(shù)的發(fā)展和應(yīng)用的跨國特性也要求國際社會共同面對和解決技術(shù)發(fā)展帶來的挑戰(zhàn)。

2023年10月18日,我國發(fā)布《全球人工智能治理倡議》,圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案。倡議提出,人工智能技術(shù)帶來難以預(yù)知的各種風(fēng)險和復(fù)雜挑戰(zhàn),各國應(yīng)在人工智能治理中加強信息交流和技術(shù)合作,不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。

行之有效的治理方案,既能夠為人工智能的創(chuàng)新發(fā)展與產(chǎn)業(yè)應(yīng)用提供良好的發(fā)展環(huán)境,還能妥善應(yīng)對技術(shù)發(fā)展過程中的風(fēng)險與問題。

中國信通院政策與經(jīng)濟研究所高級工程師程瑩告訴記者,算法治理是在已有成熟業(yè)態(tài)之后,圍繞網(wǎng)絡(luò)平臺展開的相對穩(wěn)定、清晰、可預(yù)期的治理。當(dāng)下的大模型具有擴展性強、迭代快速、商業(yè)模式尚在探索的階段特性,全球主要經(jīng)濟體共同面臨著“邊發(fā)展邊摸索邊治理”的重大挑戰(zhàn)。在我國,人工智能治理正從原則理念轉(zhuǎn)化為可落地的規(guī)則規(guī)范。立法層面,既有民法典、個人信息保護法、電子商務(wù)法等條款針對深度偽造、大數(shù)據(jù)殺熟等具體問題的治理,也有在部門規(guī)章層面關(guān)于算法推薦、深度合成、AIGC領(lǐng)域的要求。倫理層面,在《關(guān)于加強科技倫理治理的意見》規(guī)范下,進一步推進《科技倫理審查辦法(征求意見稿)》落地實施。標(biāo)準(zhǔn)層面,我國發(fā)布了《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》《生成式人工智能服務(wù)安全基本要求》等,對人工智能提出了具體落地要求。

人工智能領(lǐng)域的專門法也在逐步推進中。今年,在十四屆全國人大二次會議新聞發(fā)布會上,大會發(fā)言人婁勤儉表示,下一步將研究推進科技創(chuàng)新方面的立法,特別是深入研究人工智能、生物技術(shù)等前沿科技領(lǐng)域有關(guān)倫理、道德、安全等重要問題,不斷完善科技法律體系。

編 輯:高靖宇
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請在30日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
聞庫:全球6G發(fā)展需要統(tǒng)一的思路、方向和目標(biāo)
精彩專題
CES 2024國際消費電子展
2023年信息通信產(chǎn)業(yè)盤點暨頒獎禮
飛象網(wǎng)2023年手機評選
第24屆中國國際光電博覽會
CCTIME推薦
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像