①美國商務(wù)部發(fā)布了一份報告，表達(dá)了對“開放式”生成式人工智能模型的支持；②NTIA呼吁政府制定一項持續(xù)的計劃，收集開放模型的風(fēng)險和益處的證據(jù)，評估這些證據(jù)并根據(jù)這些評估采取行動，包括在必要時對模型的可用性施加某些限制。
財聯(lián)社7月30日訊（編輯 黃君芝）當(dāng)?shù)貢r間周二（30日），美國商務(wù)部發(fā)布了一份報告，表達(dá)了對“開放式”生成式人工智能模型（“Open-weight” GenAI models）的支持，比如Meta的Llama3.1，但同時建議政府開發(fā)“新功能”來監(jiān)控這些模型的潛在風(fēng)險。
這份報告由美國商務(wù)部國家電信和信息管理局（NTIA）撰寫。報告指出，開放模型將使小公司、研究人員、非營利組織和個人開發(fā)者更容易獲取生成式AI（GenAI）的資源。報告建議，出于這些原因，政府不應(yīng)對開放模型的訪問設(shè)置限制，至少在調(diào)查和評估這些限制是否會對市場造成傷害之前。
這種觀點與美國聯(lián)邦貿(mào)易委員會（FTC）主席莉娜·汗（Lina Khan）最近的言論相呼應(yīng)。她認(rèn)為，開放模型可以讓更多的小公司將自己的想法推向市場，從而促進(jìn)良性競爭。
“開放式模型在促進(jìn)競爭方面具有巨大的潛力…開放模型可以解放初創(chuàng)公司，他們可以不受封閉的開發(fā)人員和云服務(wù)看門人的想法束縛�！彼f。
美國助理商務(wù)部長、國家電信和信息局局長艾倫·戴維森（Alan Davidson）在一份聲明中寫道：“最大、最強(qiáng)大的人工智能系統(tǒng)的開放性，將會影響這些革命性工具的競爭、創(chuàng)新和風(fēng)險。”
“NTIA的報告認(rèn)識到開放人工智能系統(tǒng)的重要性，并呼吁對最大AI模型的廣泛可用性進(jìn)行更積極的風(fēng)險監(jiān)測。政府在支持人工智能發(fā)展方面可以發(fā)揮關(guān)鍵作用，同時建立理解和應(yīng)對新風(fēng)險的能力�！�
監(jiān)控風(fēng)險
該報告出爐之際，拜登政府正在考慮關(guān)于“開放式模型”的使用和安全的指導(dǎo)意見。今年2月，美國商務(wù)部就這種做法的風(fēng)險征求公眾意見。但也有批評人士警告稱，開放模型也可能放大AI模型被濫用的風(fēng)險，可能會讓美國對手的公司利用這項技術(shù)。
在上述報告中，NTIA呼吁政府制定一項持續(xù)的計劃，收集開放模型的風(fēng)險和益處的證據(jù)，評估這些證據(jù)并根據(jù)這些評估采取行動，包括在必要時對模型的可用性施加某些限制。
具體而言，該報告建議政府研究各種人工智能模型的安全性，支持風(fēng)險緩解措施（risk mitigations）的研究，并制定“特定風(fēng)險”指標(biāo)的閾值，以表明可能需要改變政策。
美國商務(wù)部長吉娜·雷蒙多（Gina Raimondo）也指出，相關(guān)步驟將與拜登總統(tǒng)關(guān)于人工智能的行政命令保持一致，他呼吁政府機(jī)構(gòu)和公司圍繞人工智能的創(chuàng)建、部署和使用制定新的標(biāo)準(zhǔn)。
雷蒙多在一份新聞稿中表示：“拜登政府正在盡一切努力，最大限度地發(fā)揮人工智能的潛力，同時將其風(fēng)險降到最低。今天的報告提供了一個負(fù)責(zé)任的人工智能創(chuàng)新和由美國領(lǐng)導(dǎo)的路線圖，擁抱開放，并建議美國政府如何準(zhǔn)備和適應(yīng)未來的潛在挑戰(zhàn)。”
