“AI換臉”以假亂真,規(guī)范人工智能的步子要快些
在某些人工智能技術(shù)應(yīng)用門(mén)檻不斷降低而觸達(dá)面越來(lái)越廣的當(dāng)下,積極著手問(wèn)題的研判與應(yīng)對(duì),研究出臺(tái)有效舉措劃清新技術(shù)使用的邊界、相關(guān)權(quán)責(zé)等,都應(yīng)當(dāng)快馬加鞭,少一些空白、多一些規(guī)范。
近來(lái),著名小品演員、相聲演員“飆英文”的視頻讓公眾大呼震驚。據(jù)11月5日央視報(bào)道,視頻網(wǎng)站上通過(guò)人工智能換臉,國(guó)產(chǎn)影視劇里的主角用英語(yǔ)說(shuō)起了臺(tái)詞,人們通過(guò)小程序也可以將自己變成電影里的人物。該新技術(shù)給人們帶來(lái)歡樂(lè)的同時(shí),也帶來(lái)了一種名為“AI換臉詐騙”的新騙術(shù),不法分子通過(guò)虛擬攝像頭,用“AI換臉”功能跟受害者聊天,相似度可達(dá)80%,而一臺(tái)電腦合成一段10秒的換臉視頻只需要一兩分鐘。為此,國(guó)家金融監(jiān)督管理總局北京監(jiān)管局近日發(fā)布謹(jǐn)防“AI換臉”等新型欺詐手段的風(fēng)險(xiǎn)提示。
“AI換臉”來(lái)了,這讓不少人感受到人工智能技術(shù)正在改變我們的生活。除了用于開(kāi)發(fā)娛樂(lè)性小軟件外,人工智能技術(shù)正在被廣泛應(yīng)用于醫(yī)療、新聞傳播、生物多樣性監(jiān)測(cè)等領(lǐng)域,其發(fā)展前景值得期待。
人工智能技術(shù)迅速發(fā)展,技術(shù)升級(jí)迭代的速度超出很多人的想象。在文字寫(xiě)作上,今天,相關(guān)技術(shù)可以實(shí)現(xiàn)用簡(jiǎn)短素材短時(shí)間生成復(fù)雜內(nèi)容,其專(zhuān)業(yè)性、便捷性很強(qiáng)。以前的人工智能合成語(yǔ)音相對(duì)粗糙生硬,如今合成的語(yǔ)音不僅有著與真人一樣的語(yǔ)氣語(yǔ)調(diào)嗓音,甚至還有了情緒。
此外,某些人工智能技術(shù)的可及度提升,公眾的應(yīng)用門(mén)檻降低。用戶(hù)使用某些人工智能軟件并不需要具備專(zhuān)業(yè)知識(shí)和技能,甚至有些產(chǎn)品已實(shí)現(xiàn)“傻瓜式操作”。比如,很多視頻剪輯軟件或短視頻平臺(tái)上就有生成方言語(yǔ)音的功能,用戶(hù)錄入文字或語(yǔ)音素材就可以即刻生成活靈活現(xiàn)的方言版字幕,豐富自己的視頻作品風(fēng)格。
以“AI換臉”為例,其行業(yè)門(mén)檻并沒(méi)人們通常想象的那么高,通過(guò)算法開(kāi)源,普通工程師可以“分分鐘”制作出一個(gè)變臉軟件,這就導(dǎo)致控制源頭存在天然的困難。幾年前,一名外國(guó)工程師基于一個(gè)算法開(kāi)源項(xiàng)目開(kāi)發(fā)了某款變臉軟件,一時(shí)間,很多人在參加線(xiàn)上視頻會(huì)議時(shí)都紛紛化身“阿凡達(dá)”“馬斯克”,令人啼笑皆非。
問(wèn)題隨之而來(lái),一是人工智能終端產(chǎn)品已經(jīng)鋪天蓋地,但鑒別技術(shù)和設(shè)備卻未能普及,二是相關(guān)規(guī)制約束沒(méi)能及時(shí)跟上技術(shù)發(fā)展的腳步。這些在很大程度上讓某些人工智能技術(shù)有了被濫用的空間,公眾的擔(dān)心由此而起。
應(yīng)該看到,相關(guān)監(jiān)管一直在持續(xù)發(fā)力。近幾年,國(guó)家網(wǎng)信辦等部門(mén)先后出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等政策文件,陸續(xù)開(kāi)展了“互聯(lián)網(wǎng)深度合成算法備案”“大語(yǔ)言模型算法備案”等有關(guān)工作,有效促進(jìn)了生成式人工智能的健康發(fā)展和規(guī)范應(yīng)用,對(duì)利用AI換臉、變聲等手段實(shí)施違法犯罪等行為形成有力震懾。同時(shí),一些頭部互聯(lián)網(wǎng)平臺(tái)也在探索算法檢測(cè)、軟件識(shí)別等辦法來(lái)識(shí)別人工智能生成產(chǎn)品并向公眾標(biāo)注說(shuō)明,減少信息差,提升公眾防范意識(shí)。
一項(xiàng)新技術(shù)的落地應(yīng)用往往會(huì)經(jīng)歷一段“成長(zhǎng)的煩惱”,這是新事物發(fā)展過(guò)程中的共性問(wèn)題。比如近年來(lái)的共享單車(chē)押金難退、傷亡責(zé)任糾紛,直播帶貨虛假宣傳、售后難覓等等。有關(guān)方面解決問(wèn)題的共同思路就是加快規(guī)制步伐,不斷補(bǔ)上法律法規(guī)和行業(yè)公約等“拼圖”。同樣,在某些人工智能技術(shù)應(yīng)用門(mén)檻不斷降低而觸達(dá)面越來(lái)越廣的當(dāng)下,積極著手問(wèn)題的研判與應(yīng)對(duì),研究出臺(tái)有效舉措劃清新技術(shù)使用的邊界、相關(guān)權(quán)責(zé)等,都應(yīng)當(dāng)快馬加鞭,少一些空白、多一些規(guī)范。
某種程度上,人工智能技術(shù)的使用有多方便,就可能有多少風(fēng)險(xiǎn)和變數(shù)。防范包括“AI換臉”在內(nèi)的人工智能技術(shù)被濫用,要加強(qiáng)對(duì)人臉、聲紋、指紋、步態(tài)等生物信息數(shù)據(jù)的安全防護(hù)。這需要每個(gè)人提高防范意識(shí),更需要監(jiān)管部門(mén)在完善規(guī)制的進(jìn)程上加快腳步。(本報(bào)評(píng)論員 吳迪)
隨便看看:
- [資訊]一線(xiàn)視角看經(jīng)濟(jì)回升 出行、快遞、辦展熱度各有不同
- [資訊]“低碳行為令”的價(jià)值所在
- [資訊]中國(guó)第1位變性人,1983年“男變女”手術(shù)成功,嫁給大32歲
- [資訊]春天來(lái)了,筍冒尖了,這些選購(gòu)和食用訣竅快來(lái)學(xué)一學(xué)
- [資訊]假期結(jié)束返程客流還將延續(xù)一到兩天
- [資訊]天津完成春播76.3萬(wàn)畝 重要農(nóng)產(chǎn)品產(chǎn)量持續(xù)增長(zhǎng)
- [資訊]開(kāi)放計(jì)算加速賦能千行百業(yè)
- [資訊]給大地“做B超”,用聲波找油氣
- [資訊]解決長(zhǎng)假出行難 法定假期還可以進(jìn)一步優(yōu)化
- [資訊]深港“第一口岸”今年累計(jì)客流已破千萬(wàn)
相關(guān)推薦:
網(wǎng)友評(píng)論:
推薦使用友言、多說(shuō)、暢言(需備案后使用)等社會(huì)化評(píng)論插件
- 毫米級(jí)服務(wù)與全球資源——柏薈賦能“高定人生”的底氣
- 亨達(dá)集團(tuán)35周年財(cái)經(jīng)論壇圓滿(mǎn)落幕,共探“大國(guó)博弈”
- 美光中國(guó)啟動(dòng)「冥想靜界」計(jì)劃:科技企業(yè)的人文關(guān)懷新
- 江西新與新律所網(wǎng)貸分期服務(wù):全程法律護(hù)航,保障資金
- 彩族點(diǎn)亮廣州繁榮商圈,戶(hù)外大屏廣告引燃夏日熱潮
- 菲爾萊:在科技與人文的共振中構(gòu)筑社會(huì)價(jià)值新范式
- 電動(dòng)窗簾品牌推薦:2025年最新電動(dòng)窗簾十強(qiáng)排名
- 奧特曼卡生產(chǎn)商卡游公益行動(dòng),反欺凌卡牌入校園
- 小馬寶莉卡生產(chǎn)商卡游澳門(mén)首店亮相,限定 IP 產(chǎn)品
- 搶占合規(guī)制高點(diǎn)!臺(tái)鈴獲新國(guó)標(biāo)產(chǎn)品認(rèn)證證書(shū)!
- 選嬰兒推車(chē)的三大步驟,靠譜的避震嬰兒車(chē)這樣判斷
- 唯一乳企!蒙牛集團(tuán)再獲國(guó)家科學(xué)技術(shù)獎(jiǎng)二等獎(jiǎng)
- 上海梅林正式更名為光明肉業(yè) 以新名稱(chēng)迎接行業(yè)挑戰(zhàn)
- 南方網(wǎng)通第二十五屆渠道商大會(huì)暨樹(shù)品5.0發(fā)布會(huì)圓滿(mǎn)
- 菲律賓圣保羅大學(xué)(土格加勞總校)再傳喜訊!2024
- 新公司法下要不要減資?這些風(fēng)險(xiǎn)要考慮!
- 抖音開(kāi)放平臺(tái)助力村超推廣,潑天流量帶來(lái)經(jīng)濟(jì)發(fā)展新路
- 南美一姐:秘魯商務(wù)考察全攻略,外貿(mào)公司和工廠必讀指
- 減重別只會(huì)吃雞胸肉,綠瘦告訴你還有哪些肉類(lèi)更值得吃
- 事業(yè)家庭雙豐收的幸福人生--莎蔓莉莎員工劉興