九九九中文无码A∨|亚洲国产成人最新精品|国产AV无码精品色午夜|国产精品久久久久三级无码|日韩欧美一区国产二区在线|欧美另类精品一区二区三区|精品一区二区三区毛片视频网|中文字幕日韩精品一区二区三区

中國企業(yè)報(bào)集團(tuán)主管主辦

中國企業(yè)信息交流平臺(tái)

微博 微信

生成式AI或致虛假信息野蠻生長

作者:劉霞 2023-06-13 13:19 來源:科技日報(bào) 次閱讀
 
生成式AI或致虛假信息野蠻生長

生成式人工智能(AI)橫空出世,可能給人類帶來巨大的影響。美國高盛集團(tuán)今年早些時(shí)候警告稱,超過3億個(gè)全職工作崗位可能會(huì)受到波及。美國國會(huì)研究服務(wù)局5月發(fā)布的一份報(bào)告指出,AI的最新創(chuàng)新也提出了新的版權(quán)問題,即如何界定AI創(chuàng)建或使用的內(nèi)容屬于侵權(quán)還是合理使用等。

美國《福布斯》網(wǎng)站在6月9日的報(bào)道中指出,另一個(gè)令人擔(dān)憂的問題已經(jīng)浮出水面:生成式AI能被用于社交媒體上的虛假信息運(yùn)動(dòng)。虛假信息運(yùn)動(dòng)指蓄意制造和傳播帶有政治目的的謊言,這與一個(gè)人犯錯(cuò)誤或說謊不同。虛假信息運(yùn)動(dòng)可使用各種策略,還可利用各種新技術(shù)、新媒體以及傳統(tǒng)媒體來擴(kuò)大分歧和煽動(dòng)動(dòng)亂。

美國塔爾薩大學(xué)網(wǎng)絡(luò)安全教授約翰·希爾表示,眾所周知,臉書、推特、TikTok等平臺(tái)現(xiàn)在是信息戰(zhàn)的前線,生成式AI“染指”這一領(lǐng)域既造成了新的危險(xiǎn),也放大了現(xiàn)有的危險(xiǎn)。

“深度造假”:假作真時(shí)真亦假

2017年,當(dāng)名為“深度造假”(Deepfake)的用戶在互聯(lián)網(wǎng)上首次發(fā)布合成視頻時(shí),也許不曾想到,他已經(jīng)打開了“潘多拉魔盒”。隨著“深度造假”技術(shù)在缺少監(jiān)管的狀態(tài)下野蠻生長,已逐漸危害經(jīng)濟(jì)和社會(huì)的穩(wěn)定。

所謂“深度造假”技術(shù),是一種利用AI將現(xiàn)有圖像、音頻或視頻中的人物替換成他人的技術(shù)。一些經(jīng)過操縱的圖像、視頻和音頻等“深度造假”內(nèi)容,曾經(jīng)需要專業(yè)人士才能完成,但在生成式AI的加持下,現(xiàn)在很多人都能更容易地創(chuàng)建出來。

希爾指出,“深度造假”使別有用心之人可竊取或盜用他人的聲音,將其嵌入圖像或視頻中,或者以無法檢測的方式操縱或更改數(shù)字內(nèi)容。這一切才剛剛開始,隨著技術(shù)的不斷進(jìn)步,“深度造假”技術(shù)制作的內(nèi)容與真實(shí)事物之間的差距會(huì)越來越小。而且,隨著制作出“深度造假”內(nèi)容變得越來越簡單,社交媒體會(huì)隨時(shí)向大眾傳播此類內(nèi)容。

希爾強(qiáng)調(diào)稱,隨著這些“深度造假”內(nèi)容在社交媒體平臺(tái)上不受限制、不受管理地傳播,將導(dǎo)致一場虛假信息運(yùn)動(dòng),以影響、說服和誤導(dǎo)他人或特定受眾。隨著相關(guān)技術(shù)的不斷發(fā)展,未來可能會(huì)發(fā)生什么令人非常擔(dān)憂。

侵蝕對政治選舉的信任

《福布斯》雜志指出,生成式AI再加上“深度造假”,可能會(huì)給2024年美國總統(tǒng)選舉帶來真正可怕的后果。

美國公共廣播服務(wù)網(wǎng)站在5月份的報(bào)道中指出,生成式AI不僅可快速生成有針對性的競選電子郵件、文本或視頻,還可能被用來誤導(dǎo)選民、冒充候選人并以前所未有的規(guī)模和速度破壞選舉,誹謗候選人,甚至煽動(dòng)暴力。

中佛羅里達(dá)大學(xué)研究生院教授兼副院長提摩太·塞爾諾博士表示,AI制造出的“深度造假”內(nèi)容看起來非常真實(shí),即使對專家來說,確定它們的真實(shí)性也是一個(gè)挑戰(zhàn)。

與此同時(shí),選民們被AI捏造的視頻淹沒,如果社交媒體平臺(tái)故意或錯(cuò)誤地允許AI修改或生成的信息在其網(wǎng)絡(luò)上逗留并肆意傳播,選民對其信任度可能會(huì)進(jìn)一步降低。美國網(wǎng)絡(luò)安全公司預(yù)測,試圖干預(yù)美國選舉的團(tuán)體將利用AI和合成媒體作為侵蝕信任的一種方式。

“內(nèi)容認(rèn)證”標(biāo)準(zhǔn)亟待制訂

《福布斯》網(wǎng)站在報(bào)道中指出,生成式AI相關(guān)行業(yè)正在制定“內(nèi)容認(rèn)證”標(biāo)準(zhǔn),使用戶驗(yàn)證數(shù)字內(nèi)容的來源,但開發(fā)和采納這些標(biāo)準(zhǔn)還需要一些時(shí)間。

希爾指出,這是數(shù)字媒體發(fā)展的必經(jīng)階段,盡管如此,用戶在瀏覽或使用社交媒體平臺(tái)上的內(nèi)容時(shí),必須更加謹(jǐn)慎。此外,社交媒體網(wǎng)站應(yīng)更積極地監(jiān)管AI操縱的帖子。

AI提供了顛覆性進(jìn)步的強(qiáng)大能力,但這種能力也必須被謹(jǐn)慎使用,以便更大程度發(fā)揮科技向善的力量。


點(diǎn)贊()
上一條:馬克龍密會(huì)AI專家,法國加入全球人工智能競賽2023-06-12
下一條:量子材料內(nèi)首次測量電子自旋2023-06-13

相關(guān)稿件

歐盟對AI生成內(nèi)容實(shí)施新約束 數(shù)字水印技術(shù)公司或?qū)⑹芤?/a> 2023-06-08
金山辦公旗下生成式人工智能應(yīng)用WPS AI展示新能力 2023-05-18
兩部門約談鐵礦石資訊企業(yè):不得編發(fā)虛假價(jià)格信息 2022-02-09
美加強(qiáng)立法和執(zhí)法規(guī)范AI發(fā)展 2023-05-23
專家:ChatGPT本質(zhì)屬于深度學(xué)習(xí)框架 2023-02-17
國務(wù)院國有資產(chǎn)管理委員會(huì) 中國企業(yè)聯(lián)合會(huì) 中國企業(yè)報(bào) 中國社會(huì)經(jīng)濟(jì)網(wǎng) 中國國際電子商務(wù)網(wǎng) 新浪財(cái)經(jīng) 鳳凰財(cái)經(jīng) 中國報(bào)告基地 企業(yè)社會(huì)責(zé)任中國網(wǎng) 杭州網(wǎng) 中國產(chǎn)經(jīng)新聞網(wǎng) 環(huán)球企業(yè)家 華北新聞網(wǎng) 和諧中國網(wǎng) 天機(jī)網(wǎng) 中貿(mào)網(wǎng) 湖南經(jīng)濟(jì)新聞網(wǎng) 翼牛網(wǎng) 東莞二手房 中國經(jīng)濟(jì)網(wǎng) 中國企業(yè)網(wǎng)黃金展位頻道 硅谷網(wǎng) 東方經(jīng)濟(jì)網(wǎng) 華訊財(cái)經(jīng) 網(wǎng)站目錄 全景網(wǎng) 中南網(wǎng) 美通社 大佳網(wǎng) 火爆網(wǎng) 跨考研招網(wǎng) 當(dāng)代金融家雜志 借貸撮合網(wǎng) 大公財(cái)經(jīng) 誠搜網(wǎng) 中國鋼鐵現(xiàn)貨網(wǎng) 證券之星 融易在線 2014世界杯 中華魂網(wǎng) 納稅人俱樂部 慧業(yè)網(wǎng) 商界網(wǎng) 品牌家 中國國資報(bào)道 金融界 中國農(nóng)業(yè)新聞網(wǎng) 中國招商聯(lián)盟 和訊股票 經(jīng)濟(jì)網(wǎng) 中國數(shù)據(jù)分析行業(yè)網(wǎng) 中國報(bào)道網(wǎng) 九州新聞網(wǎng) 投資界 北京科技創(chuàng)新企業(yè)誠信聯(lián)盟網(wǎng) 中國白銀網(wǎng) 炣燃科技 中企媒資網(wǎng) 中國石油化工集團(tuán) 中國保利集團(tuán)公司 東風(fēng)汽車公司 中國化工集團(tuán)公司 中國電信集團(tuán)公司 華為技術(shù)有限公司 廈門銀鷺食品有限公司 中國恒天集團(tuán)有限公司 濱州東方地毯集團(tuán)有限公司 大唐電信科技股份有限公司 中國誠通控股集團(tuán)有限公司 喜來健醫(yī)療器械有限公司 中國能源建設(shè)股份有限公司 內(nèi)蒙古伊利實(shí)業(yè)集團(tuán)股份有限公司 中國移動(dòng)通信集團(tuán)公司 中國化工集團(tuán)公司 貴州茅臺(tái)酒股份有限公司