3月4日下午消息，今年兩會期間，全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎聚焦關(guān)注大模型安全和幻覺，他認(rèn)為，以DeepSeek為代表的大模型取得了“國運(yùn)級科技成果”，不僅促進(jìn)了大模型技術(shù)自主創(chuàng)新，也帶動了上下游產(chǎn)業(yè)協(xié)同發(fā)展，讓大模型加速走進(jìn)百行千業(yè)，成為推動中國科技進(jìn)步、經(jīng)濟(jì)增長和國家強(qiáng)盛的關(guān)鍵力量。但包括DeepSeek在內(nèi)的大模型都存在“幻覺”，偶爾會生成看似不合理、與事實(shí)不符的情況。“幻覺”是一把雙刃劍，是大模型與生俱來的特點(diǎn)，不可消除，也決定其創(chuàng)造力和想象力，對于實(shí)現(xiàn)AGI（通用人工智能）極其重要。如果大模型沒有“幻覺”，就失去了想象力和創(chuàng)造力。并且越是能力強(qiáng)的模型，一般幻覺也越多。
周鴻祎認(rèn)為，在科研領(lǐng)域，大模型的“幻覺”能“想象”新藥分子結(jié)構(gòu)、蛋白質(zhì)的結(jié)構(gòu)等，為新研究指引方向。在醫(yī)療、法律、金融等對準(zhǔn)確性要求高的領(lǐng)域，“幻覺”雖然可能出錯，但可以利用技術(shù)手段，如RAG（檢索增強(qiáng)生成）技術(shù)，通過比對專業(yè)知識庫、網(wǎng)絡(luò)實(shí)時信息等方式予以矯正。
周鴻祎表示，回顧過去30年，我國法律法規(guī)吸納了“避風(fēng)港原則”讓企業(yè)敢于投入創(chuàng)新，帶來了互聯(lián)網(wǎng)行業(yè)的繁榮，也為后來的“互聯(lián)網(wǎng)+”、如今的“人工智能+”提供了技術(shù)、產(chǎn)業(yè)和人才支撐。大模型發(fā)展關(guān)系國運(yùn)，不能因?yàn)檫^度追求準(zhǔn)確而限制其創(chuàng)造力。他建議，借鑒“避風(fēng)港原則”成功經(jīng)驗(yàn)，對大模型以及相關(guān)的產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管，適度包容大模型的“幻覺”，對于“幻覺”導(dǎo)致的一般性失誤，避免直接關(guān)停下架，給予企業(yè)自我糾正的機(jī)會，促進(jìn)企業(yè)大膽創(chuàng)新、放手競爭，爭取讓更多企業(yè)“復(fù)制”DeepSeek的成功。
