3月4日上午消息，今年全國兩會前夕，全國政協(xié)委員、360集團創(chuàng)始人周鴻祎圍繞DeepSeek與網(wǎng)絡安全問題進行闡述。
周鴻祎表示，網(wǎng)上現(xiàn)在對DeepSeek的安全問題，還是把它當成一個傳統(tǒng)IT設備看安全。這個思路是過時的，這種傳統(tǒng)網(wǎng)絡安全的解題方法是解決不了人工智能的安全問題。人工智能的安全問題，對DeepSeek來講至少分成四個層面。
其一是基座模型的安全問題�；糜X是可以防止的，很多情況下，這次為什么DeepSeek一定要聯(lián)網(wǎng)才好用？因為用了互聯(lián)網(wǎng)的知識庫來做個校正。為什么在企業(yè)里應用一定要連上企業(yè)專有的知識庫，也是要做個校正。為什么納米一定要引入多個大模型，雖然DeepSeek是最強的，但最強的也不能把它當個神，它也不是每句話都對。就像你有一兩個專家朋友，問問人工智能，你問問老周，也不能老周說的都是對的，老周有時候也可能會產(chǎn)生幻覺，要我問幾個朋友，最后你要有個判斷。所以，幻覺一部分是通過知識庫能解決的。
其實DeepSeek比較容易出的問題是什么？它作為一個模型，任何人皆可PUA，任何人皆可攻擊。在座的有沒有黑客？如果不是干黑客的，你對單位不滿意，一般讓你對單位發(fā)動一次網(wǎng)絡攻擊，你肯定是做不到的，因為要學編程，要懂黑客工具。但現(xiàn)在如果單位有了內部大模型之后，只要會花言巧語，女孩子文科生都能對它發(fā)起攻擊，只要能PUA。大模型很容易被PUA，被PUA之后它就絕對聽你的，你打聽老板的啥事兒它都告訴你，你公司什么內部知識庫的資料問它，你沒有權限都可以得到。這是比較嚴重的問題，是基座模型的問題。
其二是用戶端安全的問題。怎么防止用戶在用戶端對它發(fā)起攻擊。你想，我說完有攻擊給能力，你們每個人回去，貴單位有了大模型之后，是不是都想試一試。這兩天網(wǎng)上流行了一個，伊隆·馬斯克發(fā)了一個大模型Grok-3，網(wǎng)上還流行一個越獄代碼，只要把越獄那幾句話給它拷進去，Grok-3就徹底放飛自我，這就叫PUA攻擊或者注入攻擊。
其三是知識庫引發(fā)的數(shù)據(jù)安全問題。當企業(yè)有了專業(yè)知識庫的時候，你給企業(yè)專業(yè)知識庫，它的輸出結果是最個性化的。比如A媒體和B媒體，同樣是做一個對中國網(wǎng)游行業(yè)的調研報告，密切倆準備的知識庫不一樣，定向搜索的網(wǎng)站不一樣，最后出來的結論一定是不一樣的。這在企業(yè)里應用一定要有專業(yè)知識庫，在企業(yè)里利用絕不像現(xiàn)在網(wǎng)上很多課程講的那樣，好像大家都靠提示詞，企業(yè)應用靠提示詞是解決不了的。但知識庫有個問題，一旦你把企業(yè)很重要的資料放到知識庫里并給大模型了，大模型就開始知無不言，言無不盡了，誰問大模型都會如實地把知識庫里能看到的都會告訴他。這就會有數(shù)據(jù)安全的問題。
最后是“以模制�！眴栴}，僅有DeepSeek是不夠的，DeepSeek作為助理聊天可以，最近大家有沒有注意到，“Agent”這個概念開始起來了，大模型只是一個大腦，只能做推理和對話，這個能力是有限的，它必須要能操作電腦，操作貴單位的各種物理設施，操作貴單位的服務器才能干活，才能工作，一旦把這個權力交給它，智能體出錯是不是就很危險？比如你讓它能發(fā)郵件了，哪天我的數(shù)字人(19.990, -0.04, -0.20%)給全體員工發(fā)個郵件說老周辭職不干了，你說我還得到處解釋，這是我數(shù)字人干的，或者通知我的財務快給某個賬號轉筆錢，這不就很糟糕嘛。所以，智能體的安全、知識數(shù)據(jù)的安全、客戶端的安全，還有基座模型的安全，構成一個新的人工智能安全的新領域。這個解決方法我們也有了，關鍵問題是“以模制�！薄＃_寧）
