2024年9月29日，美國加利福尼亞州州長加文·紐森以“不應(yīng)只考慮模型成本和算力”、“缺乏靈活解決方案”等為由否決了《CA SB1047前沿人工智能模型安全與創(chuàng)新法案》（以下簡稱《加州AI安全法案》）。該法案一經(jīng)提出便備受爭議，此次法案被否決也反映出美國在AI立法中強(qiáng)調(diào)創(chuàng)新發(fā)展優(yōu)先的一貫傾向。今年以來，全球多個(gè)國家和地區(qū)加快構(gòu)建和完善AI治理框架，我國應(yīng)密切關(guān)注相關(guān)政策法規(guī)的進(jìn)展，包容審慎地推進(jìn)AI監(jiān)管，促進(jìn)AI技術(shù)創(chuàng)新與監(jiān)管的平衡發(fā)展。
《加州AI安全法案》的主要特征
《加州AI安全法案》自2024年2月經(jīng)加州議會起草，經(jīng)歷了12輪修訂和審議，9月被加州州長否決。該法案旨在監(jiān)管包括Google、Meta、Anthropic和OpenAI等全球主要AI領(lǐng)先企業(yè)，內(nèi)容涵蓋設(shè)立新的監(jiān)管機(jī)構(gòu)、制定監(jiān)管大模型的標(biāo)準(zhǔn)、全流程的監(jiān)管要求及嚴(yán)格的行政處罰，主要體現(xiàn)出以下五個(gè)特征。
明確的監(jiān)管主體。法案明確將在政府內(nèi)部設(shè)立獨(dú)立于技術(shù)部的前沿模型委員會，該委員會將負(fù)責(zé)動(dòng)態(tài)更新模型監(jiān)管閾值、審計(jì)要求、并提供安全指南等職能。
前沿的監(jiān)管對象。法案將監(jiān)管訓(xùn)練成本高于1億美元，訓(xùn)練期間使用達(dá)到10^26 FLOPS（浮點(diǎn)運(yùn)算）的超大規(guī)模AI模型。現(xiàn)有大部分AI大模型尚未達(dá)到該門檻，但OpenAI、谷歌和微軟等科技巨頭表示未來可能很快就會在大模型開發(fā)中突破該計(jì)算閾值。
全流程的監(jiān)管要求。法案列出了AI企業(yè)應(yīng)當(dāng)遵守的各種關(guān)鍵測試和安全要求，主要包括：在模型訓(xùn)練前的必須具備“可立即全面關(guān)閉能力”，在模型使用或公開前應(yīng)開展安全測試與評估，在模型開發(fā)中應(yīng)每年開展保護(hù)措施、安全保障等方面的評估，在實(shí)際應(yīng)用中需聘請第三方審計(jì)師評估AI安全實(shí)踐。
嚴(yán)格的行政處罰。違反法案規(guī)定的大模型開發(fā)者（包括個(gè)人）將會被提起民事訴訟，賠償金額最高可達(dá)算力成本的30%；法院可以對出具虛假審計(jì)書的審計(jì)師、違反信息記錄規(guī)則的云服務(wù)商處以最高5萬美元的罰款。加州勞動(dòng)用工監(jiān)管機(jī)構(gòu)則可以根據(jù)《勞工法典》起訴報(bào)復(fù)檢舉人的企業(yè)。
廣泛的影響力。美國加州是全球50強(qiáng)AI公司中32家總部所在地，擁有多家高影響力的研究和教育機(jī)構(gòu)，發(fā)表四分之一的AI相關(guān)專利和會議論文。Crunchbase數(shù)據(jù)顯示，2023年全球超過50%的AI風(fēng)險(xiǎn)投資資金都流向了總部位于美國加州的公司，加州無疑是全球AI創(chuàng)新和發(fā)展最主要的中心。隨著AI技術(shù)的全球化發(fā)展，《加州AI安全法案》的立法探索也引發(fā)了包括歐盟在內(nèi)眾多主要經(jīng)濟(jì)體的關(guān)注，為各國探索AI監(jiān)管提供了經(jīng)驗(yàn)。
各界針對《加州AI安全法案》的主要分歧
《加州AI安全法案》一經(jīng)公布便引發(fā)了廣泛爭議。加州的主要科技公司、高校與研究機(jī)構(gòu)及加州眾議院的民主黨成員等均對法案表示強(qiáng)烈反對，并多次公開呼吁抵制。但同時(shí)，以埃隆·馬斯克為代表的科技領(lǐng)袖、圖靈獎(jiǎng)得主Yoshua Bengio以及美國非盈利組織人工智能安全研究中心（CAIS）等則公開支持該法案，認(rèn)為應(yīng)通過立法手段對技術(shù)發(fā)展進(jìn)行規(guī)制。綜合來看，針對法案的主要分歧集中在AI立法的主導(dǎo)權(quán)競合、AI模型的風(fēng)險(xiǎn)監(jiān)管標(biāo)準(zhǔn)設(shè)定及技術(shù)創(chuàng)新與監(jiān)管的平衡三個(gè)方面。
AI立法主導(dǎo)權(quán)的競合。在美國聯(lián)邦層面，拜登政府試圖改善AI監(jiān)管碎片化、地方化的困境，但實(shí)際上美國國會AI立法屢次陷入僵局。參議院多數(shù)黨領(lǐng)袖舒默在領(lǐng)導(dǎo)兩黨AI工作組經(jīng)過三個(gè)多月籌備討論后，也僅提出了一份類似“AI政策路線圖”的報(bào)告，并表示“不應(yīng)追求單一的全面AI法案”，與此前宣稱要推進(jìn)全面監(jiān)管AI的立法的態(tài)度大相徑庭。在美國州政府層面，科羅拉多州率先通過首部全面AI監(jiān)管法案，加州也積極跟進(jìn)開展AI立法探索，力圖通過州法案對聯(lián)邦立法產(chǎn)生積極影響。加州州長加文·紐瑟姆直言，在聯(lián)邦層面AI立法停滯不前的情況下，推動(dòng)州立法是合理的。然而，以O(shè)penAI為首的科技企業(yè)則公開聲稱，企業(yè)已在內(nèi)部采取相應(yīng)的安全防護(hù)措施，政府在聯(lián)邦層面實(shí)施AI安全監(jiān)管即可。這一立場反映了加州科技企業(yè)的一貫態(tài)度，即否定州立法的必要性，強(qiáng)調(diào)法律環(huán)境的復(fù)雜性可能增加企業(yè)的合規(guī)負(fù)擔(dān)，主張從聯(lián)邦層面制定統(tǒng)一的法律框架�？紤]到聯(lián)邦與州政府就AI立法的主導(dǎo)權(quán)競合關(guān)系，美國AI監(jiān)管的進(jìn)程很可能呈現(xiàn)出縱向基于場景的AI立法先于“大而全”的AI橫向立法、州立法先于聯(lián)邦立法的情況。
AI模型風(fēng)險(xiǎn)的監(jiān)管困境。法案提出AI的監(jiān)管標(biāo)準(zhǔn)應(yīng)基于開發(fā)AI模型所需的成本和計(jì)算能力，提前規(guī)避可能由AI引發(fā)的風(fēng)險(xiǎn)。支持者認(rèn)為，AI可能會對人類構(gòu)成“毀滅性的打擊”，應(yīng)為大型AI模型設(shè)定一系列監(jiān)管標(biāo)準(zhǔn)，促使行業(yè)更加重視安全性與合規(guī)性。反對者則認(rèn)為，“AI毀滅論者”夸大了技術(shù)威脅，不僅忽視了較小的、專業(yè)化的模型可能帶來的風(fēng)險(xiǎn)，也未充分關(guān)注到深度偽造、虛假信息等已出現(xiàn)的安全問題。此外，加州州長加文 紐瑟姆在否決聲明中表示，加州需要主動(dòng)采取防護(hù)措施來應(yīng)對AI風(fēng)險(xiǎn)，但法案沒有評估AI大模型是否被應(yīng)用于高風(fēng)險(xiǎn)領(lǐng)域，而是對所有大型系統(tǒng)一概施加嚴(yán)格的標(biāo)準(zhǔn)，可能存在“一刀切”的監(jiān)管執(zhí)法情況。由此可見，如何就AI模型存在的風(fēng)險(xiǎn)設(shè)定監(jiān)管標(biāo)準(zhǔn)，各方意見尚難達(dá)成一致，這也凸顯了基于AI模型的風(fēng)險(xiǎn)標(biāo)準(zhǔn)設(shè)定的復(fù)雜性。
創(chuàng)新與監(jiān)管的平衡問題加劇。如何平衡AI創(chuàng)新與安全，始終是《加州AI安全法案》爭論的核心問題。一方面，法案支持者強(qiáng)調(diào)，通過法律手段實(shí)施監(jiān)管可以防止?jié)撛诘臑?zāi)難性后果，尤其是據(jù)此對以利益為導(dǎo)向的企業(yè)行為進(jìn)行約束；強(qiáng)制性的安全測試和法律監(jiān)管有助于確保AI技術(shù)的安全性，進(jìn)而保護(hù)公眾權(quán)益。另一方面，法案反對者認(rèn)為，一旦法案通過將會抑制創(chuàng)新。法律環(huán)境的高度不確定性及合規(guī)成本的增加，尤其會限制小型AI企業(yè)和開源開發(fā)者的創(chuàng)新潛力。從加州整體立法趨勢來看，2024年9月加州州長加文·紐瑟密集批準(zhǔn)了17項(xiàng)與AI相關(guān)的其他監(jiān)管法案，重點(diǎn)規(guī)制加州已經(jīng)面臨的深度合成、虛假信息和版權(quán)威脅問題，呈現(xiàn)出了以州治理需求為主，立足實(shí)際應(yīng)用場景中的風(fēng)險(xiǎn)治理特點(diǎn)。這一系列舉措表明加州政府對AI技術(shù)發(fā)展及其安全合規(guī)使用高度重視，也展現(xiàn)了加州在推動(dòng)創(chuàng)新與強(qiáng)化監(jiān)管之間尋求平衡的政策取向。
結(jié)語與展望
《加州AI安全法案》在立法過程中，也引起了歐盟委員會的高度關(guān)注�！都又軦I安全法案》與歐盟的《AI法案》在基于風(fēng)險(xiǎn)的方法上具有概念上的一致性，在監(jiān)管內(nèi)容上又能構(gòu)成操作協(xié)同性，將有助于推動(dòng)AI全球監(jiān)管的一致性。相較而言，兩項(xiàng)法案在監(jiān)管范圍、監(jiān)管對象、監(jiān)管內(nèi)容等方面又存有差異。監(jiān)管范圍上，歐盟的風(fēng)險(xiǎn)范圍界定更加廣泛，除《加州AI安全法案》提到的嚴(yán)重傷害外，歐盟還增加了加劇社會不平等和歧視的風(fēng)險(xiǎn)。在監(jiān)管對象上，《加州AI安全法案》側(cè)重監(jiān)管前沿大模型，所設(shè)定的監(jiān)管門檻尚無AI企業(yè)達(dá)到；歐盟的《AI法案》則針對現(xiàn)有大模型開展監(jiān)管。在監(jiān)管內(nèi)容上，《加州AI安全法案》細(xì)化了基礎(chǔ)模型監(jiān)管，尤其在透明度方面，強(qiáng)調(diào)了規(guī)定的訓(xùn)練前、部署前的通報(bào)義務(wù)，比歐盟《AI法案》的訓(xùn)練數(shù)據(jù)披露要求則更加詳細(xì)。
《加州AI安全法案》被否反映了美國在AI領(lǐng)域強(qiáng)調(diào)發(fā)展優(yōu)先的一貫態(tài)度，眾議院議長南�！づ迓逦髟诜ò阜駴Q后公開表示贊賞，“AI領(lǐng)域發(fā)展與主導(dǎo)不僅僅是大型科技公司，還有小型企業(yè)和學(xué)術(shù)界”。此外，美國加州政府并未停止對AI監(jiān)管的探索，在否決法案當(dāng)日，加州州長單獨(dú)簽署了有關(guān)生成式AI對關(guān)鍵基礎(chǔ)設(shè)施風(fēng)險(xiǎn)的評估法案，并要求“對可能導(dǎo)致大量傷亡事件的威脅的立法”，闡明了加州將通過分散式的審慎立法方式持續(xù)探索倫理、透明和可信的AI發(fā)展路徑，為保持全球AI的領(lǐng)先地位提供保障。
從各界對《加州AI安全法案》的爭議，以及近期全球AI立法的探索中，我們也可得到有關(guān)完善我國AI監(jiān)管體系的一些啟發(fā)，尤其在優(yōu)化促進(jìn)創(chuàng)新和依法治理相結(jié)合的監(jiān)管路徑方面。一方面，積極開展針對AI在應(yīng)用中的潛在威脅和脆弱性風(fēng)險(xiǎn)分析，基于科學(xué)發(fā)展規(guī)律和實(shí)踐經(jīng)驗(yàn)，探索構(gòu)建多層次AI安全防護(hù)措施和高水平技術(shù)保護(hù)手段。另一方面，加快構(gòu)建鼓勵(lì)創(chuàng)新的風(fēng)險(xiǎn)容錯(cuò)機(jī)制，構(gòu)建具有靈活性和可操作性的監(jiān)管框架，兼顧技術(shù)發(fā)展的動(dòng)態(tài)性與安全監(jiān)管的必要性，推動(dòng)AI健康安全可持續(xù)發(fā)展。
本文作者
王娜
戰(zhàn)略發(fā)展研究所
二級分析師
碩士，中級工程師，就職于中國電信研究院，長期從事產(chǎn)業(yè)數(shù)字化相關(guān)研究，近年來專注媒體融合、數(shù)字治理、智慧城市等領(lǐng)域研究。
陳鳳仙
戰(zhàn)略發(fā)展研究所
高級分析師
博士，副研究員，就職于中國電信研究院，長期從事網(wǎng)信前沿戰(zhàn)略、人工智能、產(chǎn)業(yè)經(jīng)濟(jì)、科技創(chuàng)新等相關(guān)研究。
