在AI技術(shù)給人們的工作和生活帶來(lái)諸多便利的同時(shí)，也有不法分子借用這一新興技術(shù)做起了壞事。6月份以來(lái)，“AI詐騙”一詞頻頻沖上熱搜。“10分鐘騙走430萬(wàn)元”“換臉合成不雅視頻試圖敲詐18萬(wàn)元”“AI換聲偽裝好友借錢(qián)不還”等案件相繼出現(xiàn)。

　　受訪專家認(rèn)為，隨著人工智能技術(shù)的發(fā)展，不法分子利用AI實(shí)施詐騙的精準(zhǔn)性、隱蔽性進(jìn)一步增強(qiáng)，需高度警惕。人工智能安全治理需多方協(xié)力，完善監(jiān)管體系迫在眉睫。

　　相關(guān)詐騙呈鏈條化特征

　　據(jù)記者了解，“AI詐騙”至少要具備以下幾個(gè)條件：收集被換臉對(duì)象的個(gè)人身份信息、獲取大量人臉圖片和語(yǔ)音素材、通過(guò)AI生成以假亂真的音頻和視頻、充分掌握被詐騙人的身份信息、熟悉被詐騙人與被換臉人的社會(huì)關(guān)系。

　　《證券日?qǐng)?bào)》記者日前在某平臺(tái)咨詢后獲悉，定制AI換聲音、AI換臉視頻分別要支付4000元、8000元，打包一套11000元，前提是要向?qū)Ψ教峁┫胍ㄖ频囊纛l樣本、照片。但定制內(nèi)容只能在對(duì)方提供的平臺(tái)上使用，不可下載保存到個(gè)人手機(jī)中。

　　由此來(lái)看，“AI詐騙”成本較高，由個(gè)人來(lái)實(shí)施并不容易。盈科全球總部合伙人葉庚清律師對(duì)《證券日?qǐng)?bào)》記者表示：“這類網(wǎng)絡(luò)詐騙已呈現(xiàn)出明顯的鏈條化、平臺(tái)化作案特征。”

　　葉庚清稱，一般由上游黑產(chǎn)提供各種基于人工智能技術(shù)的專用設(shè)備工具、算法，為下游電信網(wǎng)絡(luò)詐騙提供技術(shù)支持。“在這條產(chǎn)業(yè)鏈中，不法分子利用互聯(lián)網(wǎng)分工配合。詐騙案件發(fā)生時(shí)，位于上游的不法分子可能以自己不知情來(lái)規(guī)避法律制裁，這也是辦理電信網(wǎng)絡(luò)詐騙案件的難點(diǎn)之一?！?/p>

　　除了詐騙外，不法分子還能通過(guò)AI技術(shù)實(shí)施非法集資、非法傳銷(xiāo)、侵犯知識(shí)產(chǎn)權(quán)等至少7類違法犯罪行為。

　　“人工智能應(yīng)用到經(jīng)濟(jì)活動(dòng)中，還可能涉及不正當(dāng)競(jìng)爭(zhēng)與壟斷行為。未來(lái)，我們甚至可能需要討論AI能否成為獨(dú)立承擔(dān)責(zé)任的主體。待AI技術(shù)發(fā)展到一定階段，它可能會(huì)被應(yīng)用到無(wú)數(shù)場(chǎng)景，如果有違法行為，將可能涉及民事責(zé)任、行政責(zé)任以及刑事責(zé)任的承擔(dān)。”中國(guó)政法大學(xué)資本金融研究院副院長(zhǎng)武長(zhǎng)海告訴《證券日?qǐng)?bào)》記者。

　　跨境監(jiān)管合作亟待加強(qiáng)

　　事實(shí)上，隨著AI技術(shù)的加速迭代應(yīng)用，業(yè)界關(guān)于加強(qiáng)監(jiān)管、完善立法的呼聲也越來(lái)越高。

　　據(jù)記者了解，中國(guó)現(xiàn)有法律體系能解決與AI技術(shù)有關(guān)的大部分違法犯罪行為，但前提是涉案人員歸案。

　　一位公安系統(tǒng)工作人員對(duì)《證券日?qǐng)?bào)》記者表示：“涉及AI技術(shù)的詐騙案件，其涉案人員多在海外，資金也多流向海外，偵破難度較大?！?/p>

　　一位檢察院系統(tǒng)工作人員也告訴《證券日?qǐng)?bào)》記者：“處理該類案件的難處主要有兩方面：一是落地查人難，嫌疑人在網(wǎng)絡(luò)上登記的信息基本都是假的；二是騙走的錢(qián)難追回，嫌疑人拿到錢(qián)后很快就轉(zhuǎn)走?！?/p>

　　上海社科院數(shù)字化綠色化協(xié)同發(fā)展研究中心主任、清華大學(xué)國(guó)家治理研究院特聘研究員李易對(duì)《證券日?qǐng)?bào)》記者表示：“國(guó)內(nèi)法律規(guī)范能否對(duì)境外人工智能服務(wù)提供者進(jìn)行有效約束，要打個(gè)問(wèn)號(hào)。這涉及到不同法律體系的跨國(guó)合作?！?/p>

　　葉庚清也表示，利用AI技術(shù)實(shí)施的違法犯罪行為，其精準(zhǔn)性、迷惑性、隱蔽性都大大加強(qiáng)，導(dǎo)致偵查打擊難度加大；司法實(shí)踐中，治理該類違法犯罪行為時(shí)面臨的“偵查破案難”“電子取證難”“認(rèn)定處理難”等問(wèn)題更加突出。

　　而我國(guó)已經(jīng)開(kāi)始探索并逐步構(gòu)建完善的人工智能監(jiān)管體系。

　　此前，已有《新一代人工智能發(fā)展規(guī)劃》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等文件正式公布。2023年4月份，國(guó)家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》并向社會(huì)公開(kāi)征求意見(jiàn)，提出AI內(nèi)容必須真實(shí)準(zhǔn)確，禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

　　不僅如此，近期，國(guó)務(wù)院辦公廳發(fā)布的《國(guó)務(wù)院2023年度立法工作計(jì)劃》還將人工智能法草案列為預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議項(xiàng)目，說(shuō)明相關(guān)立法已提上日程。

　　武長(zhǎng)海表示，人工智能法應(yīng)當(dāng)是綜合性立法，會(huì)涉及刑事責(zé)任、行政責(zé)任以及民事責(zé)任，還可能涉及消費(fèi)者權(quán)益保護(hù)以及反不正當(dāng)競(jìng)爭(zhēng)、反壟斷等?！暗罱K也可能是原則性規(guī)定，實(shí)現(xiàn)和已有法律規(guī)范的有效銜接。”

　　“人工智能法可能會(huì)將打擊跨境違法犯罪行為作為重要因素，加強(qiáng)與反電信網(wǎng)絡(luò)詐騙法、反洗錢(qián)法、數(shù)據(jù)安全法的體系協(xié)同，通過(guò)建立區(qū)域合作、國(guó)際公約等方式打擊利用人工智能的違法犯罪行為，設(shè)定更有利于獲取跨境犯罪證據(jù)的規(guī)則?！北本P(yáng)濤律師事務(wù)所主任楊濤表示。

　　但也有人擔(dān)心較強(qiáng)的監(jiān)管會(huì)阻礙AI技術(shù)的發(fā)展。對(duì)此，北京中科晶上副總經(jīng)理?xiàng)钚≤妼?duì)《證券日?qǐng)?bào)》記者說(shuō)：“現(xiàn)有的以及還在計(jì)劃中的規(guī)范與監(jiān)管，主要在于抑制AI技術(shù)帶來(lái)的負(fù)面效應(yīng)，并不會(huì)限制技術(shù)發(fā)展。更為嚴(yán)苛的監(jiān)管是用技術(shù)對(duì)技術(shù)進(jìn)行管控，但這也需要技術(shù)進(jìn)步到一定程度才行。（本報(bào)記者 王麗新 見(jiàn)習(xí)記者 寇佳麗）