11家互聯(lián)網(wǎng)企業(yè)因“危險技術(shù)”被約談
因為一項“危險技術(shù)”,11家互聯(lián)網(wǎng)企業(yè)被約談。近日,針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用,國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)北京、天津、上海、浙江、廣東等地方網(wǎng)信部門、公安機關(guān),依法約談映客、小米等11家企業(yè)。
對于運用深度偽造技術(shù)制作出來的產(chǎn)品,使用智能手機的公眾或許并不陌生。不久前,短視頻領(lǐng)域出現(xiàn)了一款火爆的“螞蟻呀嘿”。玩家只要上傳一張照片,照片上的人就能扭脖子瞪眼睛地唱上一首“螞蟻呀嘿”。2019年國內(nèi)紅極一時的換臉軟件“ZAO”,其基礎(chǔ)也是深度偽造技術(shù)。
有了PS后,有圖也不一定有真相;有了深度偽造,所看所聽未必是真相。但與使用PS不同,即使是不具備相應(yīng)技術(shù)的普通人,也能輕松運用深度偽造技術(shù)來實現(xiàn)“換臉”。
廣東財經(jīng)大學(xué)法學(xué)院教授姚志偉3月26日接受《法治日報》記者采訪時說,深度偽造技術(shù)本身被廣泛運用存在較大風(fēng)險,其風(fēng)險不僅在于會侵犯公民個人權(quán)利,還在于可能導(dǎo)致公共安全方面的危險。如果不對該技術(shù)的使用進行規(guī)制,將會產(chǎn)生可怕的后果。
中國法學(xué)會商法學(xué)研究會理事、北京華訊律師事務(wù)所主任張韜說,深度偽造技術(shù)不僅涉及民法典所保護的人格權(quán)、肖像權(quán)等法律問題,還涉及個人生物信息的提取、識別、利用以及保護等諸多方面問題。因此,立法機關(guān)在制定個人信息保護法、數(shù)據(jù)安全法等相關(guān)法律時,應(yīng)當(dāng)針對這類新問題作出相應(yīng)的制度設(shè)計。
低門檻高效率蘊含更大威脅
所謂深度偽造,是指有關(guān)軟件通過AI“換臉”、語音模擬、視頻生成等方式,對既有圖像、聲音、視頻進行篡改、偽造,自動生成音視頻產(chǎn)品。
不可否認,深度偽造技術(shù)有一定的正向作用。該技術(shù)可以輔助科研、教學(xué)、藝術(shù)創(chuàng)作等,例如,在教育領(lǐng)域,逼真的虛擬教師可以讓數(shù)字教學(xué)更具互動性和趣味性,合成的歷史人物講解視頻可以讓受眾更有代入感。
然而,與深度偽造技術(shù)的正面效應(yīng)相比,其所蘊含的潛在威脅和安全隱患,更加引人關(guān)注。
盡管在深度偽造技術(shù)出現(xiàn)之前,也有技術(shù)能夠?qū)崿F(xiàn)“換臉”,例如PS技術(shù)。但與以往的技術(shù)相比,深度偽造技術(shù)有著更高效率、更低門檻、更高質(zhì)量的優(yōu)勢,這使得該技術(shù)在制造虛假人像和視頻方面具有更加顯著的優(yōu)勢。
“具備多種優(yōu)勢的深度偽造技術(shù),使得普通人能夠輕松地自行進行‘換臉’,制作虛假人像圖像和視頻成本極低。在兼具高仿真與高效率的人工智能協(xié)助下,海量的‘換臉’圖像和視頻可以隨時產(chǎn)生并傳播,短時間風(fēng)靡互聯(lián)網(wǎng)。對于這樣一種技術(shù),如果不進行規(guī)制,無疑將產(chǎn)生可怕的后果。因此,在這種背景下,國內(nèi)外都已有立法動作進行回應(yīng)。”姚志偉說。
危害公眾利益乃至國家安全
深度偽造技術(shù)一旦泛濫應(yīng)用,勢必會對公眾的人身、財產(chǎn)等合法權(quán)益造成侵害。
例如,利用深度偽造技術(shù)實現(xiàn)移花接木,會對他人名譽權(quán)構(gòu)成侵害。制作虛假色情視頻,是深度偽造技術(shù)最早也是最常見的非法運用方式之一。利用該技術(shù)能將一些知名歌星、影星等公眾人物的臉移轉(zhuǎn)到色情明星身上,偽造逼真的色情場景。
清華大學(xué)法學(xué)院教授程嘯指出,這些虛假色情視頻一經(jīng)傳播,公眾可能真假莫辨,從而導(dǎo)致受害人的名譽嚴重受損。即便不是用于制作色情視頻,深度偽造技術(shù)也完全可以通過制造虛假的視頻或音頻,侵害自然人、法人或非法人組織的名譽權(quán),進而給其造成財產(chǎn)損失以及精神損害。
不僅如此,深度偽造技術(shù)還會對公共安全、經(jīng)濟安全、國家安全造成威脅。
姚志偉說,一旦深度偽造技術(shù)被濫用,公眾無從區(qū)分真假時,可能會對任何含有人像的圖像和視頻產(chǎn)生懷疑,這無疑會極大地沖擊媒體和政府的公信力,對社會信任體系造成重大損害,導(dǎo)致嚴重的社會信任危機。
“例如,在經(jīng)濟秩序方面,別有用心的人利用深度偽造技術(shù),可以創(chuàng)造一家上市公司CEO宣稱公司即將破產(chǎn)的虛假視頻,我們可以想象,這個視頻對該公司股價的沖擊。”姚志偉說。
民法典對此已有專門規(guī)定
程嘯指出,深度偽造技術(shù)的濫用會對公眾的合法權(quán)益造成損害,破壞社會秩序、經(jīng)濟秩序和政治秩序,損害社會公共利益乃至危害國家安全,因此,包括我國在內(nèi)的許多國家的法律都對其作出規(guī)范。
我國在編纂民法典時,有單位提出,利用信息技術(shù)手段“深度偽造”他人的肖像、聲音,不僅侵害自然人的人格權(quán)益,嚴重的還可能造成惡劣的社會影響,危害國家安全和社會公共利益,建議法律對深度偽造技術(shù)帶來的“換臉”等問題予以回應(yīng)。
后來,民法典在制定時采納了這一意見——第一千零一十九條第一款規(guī)定,任何組織或者個人不得以丑化、污損,或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意,不得制作、使用、公開肖像權(quán)人的肖像,但是法律另有規(guī)定的除外。
“對于深度偽造技術(shù)可能造成的風(fēng)險,民法典中的相關(guān)規(guī)定已經(jīng)可以解決民事責(zé)任問題,可以說是提前作出了一定的回應(yīng),這顯示出我國立法機關(guān)對于類似問題的重視。但不可否認的是,網(wǎng)絡(luò)法律制度依然有很大的空間需要完善。”張韜說。
張韜認為,從2019年的換臉軟件“ZAO”到此次11家互聯(lián)網(wǎng)企業(yè)被約談,深度偽造技術(shù)的潛在問題或威脅已經(jīng)逐步顯露。盡管目前我國尚未發(fā)生因深度偽造技術(shù)而產(chǎn)生侵權(quán)糾紛案件,但不能不未雨綢繆進行應(yīng)對。因此,立法機關(guān)應(yīng)當(dāng)完善網(wǎng)絡(luò)法律制度,對這類新問題建立一整套新的制度。
對偽造場景應(yīng)進行必要限制
值得注意的是,中共中央印發(fā)的《法治社會建設(shè)實施綱要(2020-2025年)》明確提出,要“制定完善對網(wǎng)絡(luò)直播、自媒體、知識社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。
張韜認為,正在制定的個人信息保護法、數(shù)據(jù)安全法以及其他有關(guān)法律、行政法規(guī)在制定和修訂時,應(yīng)當(dāng)針對這類問題進行專門規(guī)定,以回應(yīng)和解決社會熱點問題。
“在制定個人信息保護法和數(shù)據(jù)安全法時,對于深度偽造技術(shù)所能涉及或者應(yīng)用的場景應(yīng)進一步加強規(guī)制?,F(xiàn)在的相關(guān)立法大多強調(diào)普適性的規(guī)定和適用,對很多具體、重要應(yīng)用場景的規(guī)定還不夠完善,因此,建議在立法的實踐應(yīng)用方面進行加強。”張韜說。
張韜建議,對深度偽造技術(shù)的研發(fā)和應(yīng)用,特別是市場化的應(yīng)用,要進行必要的監(jiān)管;應(yīng)用深度偽造技術(shù)的音視頻“作品”,應(yīng)當(dāng)有水印或者其他顯著的標識,以提醒用戶注意;對深度偽造技術(shù)“換臉”仿聲所應(yīng)用的具體場景,應(yīng)當(dāng)進行必要的限制。
關(guān)鍵詞: 互聯(lián)網(wǎng)企業(yè)
相關(guān)閱讀
-
中超第19輪的補賽開打 梅州客家在大連...
昨天下午,中超第19輪的補賽全面開打。北上大連的梅州客家在大連市... -
廣東男籃23分擊敗上海大鯊魚 布魯克斯...
昨晚,CBA常規(guī)賽再戰(zhàn)一輪,廣東男籃以23分的優(yōu)勢擊敗上海大鯊魚隊,... -
全紅嬋首次參加跳水世界杯 207C動作得...
昨晚,在德國柏林舉行的跳水世界杯產(chǎn)生了首枚金牌。在女子雙人十米... -
李瑋鋒出任廣州城主帥 廣州城才逐漸走...
在結(jié)束第21輪0∶0逼平滄州雄獅的比賽之后,廣州城只是稍作休整,在1... -
《和平精英》的開放世界 全局開放商業(yè)想象
未來30年,元宇宙將是中國的支柱產(chǎn)業(yè),至少有12億人可以成為元宇宙... -
如何打破銀行場景金融轉(zhuǎn)型焦慮 百融云...
身處數(shù)字經(jīng)濟時代,用戶對于千人千面、實時響應(yīng)、場景化的訴求日益... -
泰隆銀行突破柜臺窗口式政務(wù)服務(wù)定式思...
日前,紹興市柯橋區(qū)外貿(mào)共享客廳在泰隆銀行紹興分行揭牌成立,在全... -
世界快資訊丨固定資產(chǎn)投資增速加快 投...
相關(guān)閱讀:消費市場逐步恢復(fù)新型消費增勢良好政策措施加力顯效工業(yè)... -
四部門:部署開展涉企違規(guī)收費專項整治...
人民網(wǎng)北京10月27日電(記者孫博洋)記者從市場監(jiān)管總局了解到,日... -
臺州銀行投向小微企業(yè)與“三農(nóng)”客戶的...
臺州銀行溫州分行成立12年來,與小微企業(yè)和三農(nóng)交貼心的朋友,累計... -
精彩看點:智通A股融資融券統(tǒng)計|10月27日
智通A股融資融券統(tǒng)計|10月27日 -
進出口銀行浙江省分行:21.5億元紅獅印...
由進出口銀行浙江省分行牽頭的等值21 5億元人民幣紅獅印尼東加銀團... -
浙商銀行投放人行設(shè)備更新改造再貸款清...
近期,浙商銀行落實設(shè)備更新改造再貸款和制造業(yè)中長期貸款投放的相... -
紹興市成立科學(xué)家研究中心 打造弘揚科...
日前,紹興市科學(xué)家精神研究中心揭牌成立儀式在紹興文理學(xué)院舉行。... -
浙江省科協(xié)科普部組織浙江農(nóng)林大學(xué)5位博...
日前,浙江省科協(xié)科普部組織浙江農(nóng)林大學(xué)5位博士科技志愿者,響應(yīng)智... -
鹿城區(qū)科協(xié)持續(xù)舉辦項目路演活動 吸引...
近日,為加速推動科技成果轉(zhuǎn)化,促進產(chǎn)業(yè)高質(zhì)量發(fā)展,服務(wù)國家創(chuàng)新... -
孫宇晨2022釜山區(qū)塊鏈周演講:區(qū)塊鏈是...
據(jù)韓國媒體全球經(jīng)濟新聞10月27日報道,波場TRON創(chuàng)始人孫宇晨線上出... -
世界即時看!挺進深地挖掘油氣潛能(新知)
【現(xiàn)象】今年6月,西南油氣田雙魚001—H6井鉆井深度達9010米,創(chuàng)造... -
三季度就業(yè)形勢總體穩(wěn)定
核心閱讀 人社部日前發(fā)布的三季度就業(yè)數(shù)據(jù)顯示:就業(yè)形勢總體穩(wěn)... -
為村民鋪就“幸福路”(新視點)
金秋時節(jié),來到河北省邯鄲市峰峰礦區(qū)彭城鎮(zhèn)藺家莊村,桃園里的桃子...