原標題：AI“狂飆”引擔憂 監(jiān)管討論在升溫

自去年底ChatGPT“一夜成名”，人工智能（AI）迎來“狂飆”時刻，AI生成內(nèi)容（AIGC）領(lǐng)域快速發(fā)展。與此同時，數(shù)據(jù)泄漏、電信詐騙、個人隱私風險、著作權(quán)侵權(quán)、虛假信息等挑戰(zhàn)層出不窮，關(guān)于AI監(jiān)管的討論正在全球范圍內(nèi)升溫。

包括埃隆·馬斯克在內(nèi)的1000多名科技領(lǐng)袖、技術(shù)人員和研究人員今年3月就簽署過一封公開信，呼吁暫停開發(fā)最大的AI模型6個月，理由是擔心“開發(fā)和部署更強大數(shù)字思維的競賽失控”。超過350名AI領(lǐng)域的行業(yè)高管、研究人員和工程師5月30日又簽署了一封公開信，他們在信中警告稱，AI可能給人類帶來“滅絕風險”，簽署者包括美國OpenAI首席執(zhí)行官山姆·阿爾特曼和谷歌DeepMind首席執(zhí)行官杰米斯·哈薩比斯。

從歐洲《AI法案》到七國集團（G7）“廣島AI進程”，目前，全球許多國家正在討論AI的監(jiān)管規(guī)則，不過它們正處于監(jiān)管和立法過程的不同階段。

【資料圖】

歐洲議會通過《AI法案》草案

德國《法蘭克福評論報》指出，目前關(guān)于AI的最具體、最先進的規(guī)則是歐盟的《AI法案》。作為其數(shù)字戰(zhàn)略的一部分，歐盟希望對AI進行監(jiān)管，以確保為這一創(chuàng)新技術(shù)的開發(fā)和使用提供更好的條件。

當?shù)貢r間6月14日，歐洲議會以499票贊成、28票反對和93票棄權(quán)的壓倒性結(jié)果通過了《AI法案》草案。若最終法案獲得通過，這將成為全球首個關(guān)于AI的法案。美國有線電視新聞網(wǎng)報道稱，一旦獲得通過，該法案將適用于在歐盟開發(fā)和部署AI系統(tǒng)的任何人，包括位于歐盟以外的公司。

監(jiān)管的程度取決于特定應用程序產(chǎn)生的風險，從最小到“不可接受”。屬于后一類的系統(tǒng)將被徹底禁止。

該法案對“高風險”AI應用設(shè)置了嚴格限制，“高風險”指的是可能“對人們的健康、安全、基本權(quán)利或環(huán)境造成重大損害”。

該法案還概述了AI系統(tǒng)的透明度要求。例如，ChatGPT等系統(tǒng)必須表明其內(nèi)容是AI生成的，以方便區(qū)分深度偽造圖像和真實圖像，并提供防止非法內(nèi)容生成的保障措施。用于訓練這些AI系統(tǒng)的受版權(quán)保護的數(shù)據(jù)詳細摘要也必須公布。

G7呼吁出臺AI技術(shù)標準

據(jù)《日本時報》報道，由于對生成式AI日益擔憂，G7領(lǐng)導人5月在廣島召開峰會，同意成立一個工作組，以加強合作，解決與新技術(shù)相關(guān)的各種問題。他們還表示，將創(chuàng)建一個名為“廣島AI進程”的部長級論壇，在今年底前針對生成式AI導致的版權(quán)、虛假信息等問題展開討論。

G7發(fā)布的聯(lián)合聲明表示：“我們認識到有必要立即評估生成式AI的機遇和挑戰(zhàn)?！彼麄儗⒅铝τ谕ㄟ^透明、公開和公平的方式與多個利益相關(guān)者合作，起草“負責任的AI”的標準。

聲明表示，各國對AI監(jiān)管的立場可能有所不同，但需要有一定程度的標準化，這種標準化也適用于其他新興技術(shù)趨勢，例如元宇宙和量子信息科學。

澳大利亞計劃加強AI監(jiān)管

澳大利亞是最早提出監(jiān)管AI的國家之一，于2018年推出了一個自愿的道德框架。

澳大利亞工業(yè)和科學部長埃德·胡西克承認，版權(quán)、隱私和消費者保護方面的法律目前仍然存在不足。他表示，鑒于AI行業(yè)的快速發(fā)展，政府希望確保其法律框架能起到有效保護效果。同時，如果在制定新的AI法律過程中，公眾有強烈要求，澳大利亞也會考慮禁止AI中的高風險成分。

在2023年的聯(lián)邦預算中，澳大利亞政府宣布成立“負責任的AI網(wǎng)絡(luò)”，并為在全國范圍內(nèi)負責任地推廣多種AI技術(shù)提供約2690萬美元的資金。

此外，該國監(jiān)管機構(gòu)也意識到了現(xiàn)行法律的不足，擬對更廣泛的《隱私法》進行修改，修改后的法律將涉及如何應對在沒有人類監(jiān)督的情況下，AI模型訓練通過反饋環(huán)路可能出現(xiàn)的缺乏透明度的問題。

美國AI監(jiān)管仍在路上

美國也加入了這場生成式AI的監(jiān)管風暴。當?shù)貢r間5月23日，美國政府宣布了一系列圍繞美國AI使用和發(fā)展的新舉措，希望全面了解并捕捉到快速發(fā)展的AI技術(shù)所蘊含的風險和機遇。

白宮官網(wǎng)發(fā)布消息稱，“AI是我們這個時代最強大的技術(shù)之一，具有廣泛的應用。為了抓住AI帶來的機會，我們必須首先管控其風險。為此，政府已采取行動，促進負責任的AI創(chuàng)新，將人、社區(qū)和公共利益放在中心位置，并管理AI技術(shù)發(fā)展對個人和社會、安全和經(jīng)濟的風險?！?/p>

不過，美國對于AI監(jiān)管的思路與歐洲不同。歐盟傾向于由統(tǒng)一法案帶來集中協(xié)調(diào)和全面的監(jiān)管覆蓋范圍；而美國則采取不干涉的做法，著重于依靠業(yè)界“自律”，提出自己的保障措施。

(責編：楊曦、呂騫)關(guān)注公眾號：人民網(wǎng)財經(jīng)

關(guān)鍵詞：