AI馬斯克行騙,深度偽造視頻數(shù)量影響越來(lái)越大

YinJi

這也可以枚钓？AI馬斯克，1分鐘騙走幾十萬(wàn)

智東西

試想一下粟宣，當(dāng)一位頂級(jí)企業(yè)家向你拋出橄欖枝喳卫，“親口”告訴你現(xiàn)在有一種無(wú)風(fēng)險(xiǎn)的方式快速致富，只要填個(gè)表就能賺100萬(wàn)美元辑揍，你會(huì)怎么做蕴嘹？

如果這個(gè)人是馬斯克，并且還有BBC為其背書球灰，告訴你這是“一場(chǎng)不為公眾所知的技術(shù)革命”呢闹只？

警惕性較高的人可能會(huì)立刻嗅到電信詐騙的氣息，但對(duì)于不常接觸互聯(lián)網(wǎng)的人群迂溉，要識(shí)別出這樣的偽造視頻并不容易羡逃。

智東西8月16日消息，據(jù)《紐約時(shí)報(bào)》報(bào)道狡舞，去年年底硬白，82歲的退休人員Beauchamp看到馬斯克宣傳一項(xiàng)激進(jìn)的投資機(jī)會(huì)，并承諾無(wú)風(fēng)險(xiǎn)骇另、快速回報(bào)畴栖。他聯(lián)系了視頻中的公司，在隨后幾周的一系列交易中花光了退休金八千，累計(jì)“投資”超過69萬(wàn)美元吗讶。

接下來(lái)的事情可想而知，退休金和這家公司一起消失了恋捆。

隨著名為Deepfake（深度偽造）的AI技術(shù)愈發(fā)成熟照皆，類似的視頻充斥在互聯(lián)網(wǎng)上。據(jù)知名咨詢機(jī)構(gòu)德勤估算沸停，深度偽造視頻每年將造成數(shù)百億美元的詐騙損失膜毁。

監(jiān)測(cè)深度偽造視頻的機(jī)構(gòu)Sensity近日做了一項(xiàng)調(diào)查，通過分析2000多段深度偽造視頻愤钾，發(fā)現(xiàn)馬斯克已經(jīng)成為這類視頻中最常見的“發(fā)言人”瘟滨。自去年年底以來(lái)，馬斯克出現(xiàn)在近1/4的深度偽造詐騙視頻中能颁，其中針對(duì)加密貨幣的視頻他的出現(xiàn)率更是達(dá)到90%杂瘸。

其他常見的偽造對(duì)象火焰，還有著名的投資人巴菲特、亞馬遜創(chuàng)始人貝索斯等胧沫。

一塘憨、每年詐騙上百億美元，馬斯克出現(xiàn)率1/4

為了制造這些視頻智础，詐騙者首先會(huì)找到馬斯克等人的真實(shí)采訪視頻士到。比如開篇視頻的畫面原本來(lái)自馬斯克在《華爾街日?qǐng)?bào)》接受的一次采訪，談?wù)摰脑掝}是如何利用AI等技術(shù)實(shí)現(xiàn)公司的高效管理助安。

詐騙者會(huì)利用唇形同步技術(shù)（Lip-synching）辰诱，調(diào)整人物的口型，隨后使用語(yǔ)音克隆工具添加一個(gè)AI復(fù)制的語(yǔ)音莽裤。

最后拱缆，部分視頻還會(huì)添加模仿BBC等專業(yè)新聞機(jī)構(gòu)的虛假圖標(biāo)，這對(duì)于普通互聯(lián)網(wǎng)用戶來(lái)說(shuō)也許更有說(shuō)服力店烛。



▲新聞標(biāo)識(shí)（圖源：《紐約時(shí)報(bào)》）

究竟有多少這樣的深度偽造視頻正在網(wǎng)絡(luò)上流傳谢奕，已經(jīng)很難準(zhǔn)確量化。在Facebook的廣告庫(kù)中搜索這些騙局的常用宣傳文案辱甫，會(huì)出現(xiàn)數(shù)十萬(wàn)條廣告遍送，其中有不少都是深度偽造視頻。

YouTube也充斥著這類視頻店诗。如果在YouTube上搜索“埃隆比特幣會(huì)議”（Elon Bitcoin conference）裹刮，你會(huì)得到數(shù)十個(gè)標(biāo)注著現(xiàn)場(chǎng)直播的視頻，但實(shí)際上這些都是預(yù)先錄制的深度偽造視頻庞瘸。



▲YouTube深度偽造視頻（圖源：YouTube）

這些“直播”的觀看人數(shù)動(dòng)輒數(shù)十萬(wàn)捧弃，但據(jù)YouTube證實(shí)，詐騙者可以使用“水軍”刷人數(shù)擦囊，人為地夸大這個(gè)數(shù)字违霞。

今年5月，知名咨詢機(jī)構(gòu)德勤發(fā)布關(guān)于生成式AI增加深度偽造欺詐風(fēng)險(xiǎn)的報(bào)告霜第，其中提到2023年葛家，金融科技領(lǐng)域的深度偽造事件增加了700%，并預(yù)測(cè)到2027年泌类，AI將使美國(guó)的欺詐損失從2023年的123億美元增加到400億美元，復(fù)合年均增長(zhǎng)率為32%底燎。



▲生成式AI造成的欺詐損失增長(zhǎng)預(yù)測(cè)（圖源：德勤）

深度偽造視頻的數(shù)量和影響力越來(lái)越大刃榨。據(jù)監(jiān)測(cè)深度偽造視頻的機(jī)構(gòu)Sensity調(diào)查，在2000多段深度偽造視頻中双仍，馬斯克已經(jīng)成為最常見的“發(fā)言人”寺斟，出現(xiàn)在近1/4的深度偽造詐騙視頻中虫棚，其中針對(duì)加密貨幣的視頻他的出現(xiàn)率更是達(dá)到90%。

Sensity聯(lián)合創(chuàng)始人Francesco Cavalli認(rèn)為溪胖，這可能是有史以來(lái)最大的深度偽造騙局黔琢。

二、成本不超10美元肤不，幾分鐘偽造大量視頻

實(shí)際上寻癌，制作這類視頻的成本并不高，只需要不到10美元豌腮，就能在幾分鐘時(shí)間內(nèi)制作出大量偽造視頻绪封。

這些AI生成的視頻并不完美。馬斯克在一些視頻中聽起來(lái)像機(jī)器人椰骇，他的口型也并不總是保持一致历扭。但這些視頻已經(jīng)能騙過相當(dāng)多的人，而且技術(shù)還一直在不斷改進(jìn)膨吼。

Sensity調(diào)查顯示棺氢，這類詐騙者主要來(lái)自亞洲、東歐國(guó)家现恼，使用免費(fèi)和廉價(jià)的工具將視頻翻譯成多種語(yǔ)言简软，不斷將騙局傳播到更大范圍。

其中一種常見的套路是宣傳虛假的AI軟件述暂。詐騙者通過讓“發(fā)言人”聲稱這些軟件可以產(chǎn)生驚人的投資回報(bào)痹升，鼓勵(lì)目標(biāo)首先交一小筆錢——一般是250美元左右，然后通過聲稱初始投資的價(jià)值正在增加等方式畦韭，慢慢引誘他們投資更多疼蛾。

例如在段來(lái)自特斯拉股東大會(huì)的視頻中，馬斯克“展示”了一款由AI驅(qū)動(dòng)的自動(dòng)交易產(chǎn)品艺配，該產(chǎn)品每天可以使特定投資翻倍察郁，“只需投資4500蘭特，您就能獲得每天8000蘭特的穩(wěn)定利潤(rùn)”转唉。（注：蘭特是南非的貨幣單位）

這些AI詐騙者通常瞄準(zhǔn)年齡較大的互聯(lián)網(wǎng)用戶皮钠，他們可能熟悉加密貨幣、AI等話題赠法，以及馬斯克麦轰、巴菲特這些人，但不熟悉安全的投資方式猴宾。

“老年人是一個(gè)非常有錢且容易上當(dāng)?shù)娜后w潘吸。”加州大學(xué)戴維斯分校科技研究教授卤撬、加密貨幣市場(chǎng)專家Finn Brunton說(shuō)巴移，“即使沒有社交媒體平臺(tái)，老年人也一直是詐騙的目標(biāo)柄楼〔t驴！?br />
而之所以瞄準(zhǔn)馬斯克，則是因?yàn)轳R斯克擁有獨(dú)特的全球“粉絲”群體翅陪。研究加密貨幣社區(qū)的專家稱退钱，這些人通常由保守派、反建制派和加密貨幣愛好者組成又信，他們經(jīng)常被新奇的賺錢途徑所吸引——這使他們成為騙局的完美目標(biāo)胰绢。

加密貨幣社區(qū)研究員Molly White稱，這群人總是認(rèn)為抛冗，財(cái)富的秘密對(duì)他們是隱藏的切省，而一旦他們“發(fā)現(xiàn)”了這一秘密，他們就會(huì)認(rèn)為這是其所需的一切帕胆。

開頭提到的退休人員Beauchamp朝捆，在75歲之前是一家加拿大公司的銷售代表。他在去年剛開始使用Facebook懒豹，隨后看到了一則馬斯克在CNN上接受采訪的廣告芙盘。

雖然他堅(jiān)稱自己在CNN官方上也看過這段視頻，但據(jù)CNN發(fā)言人稱脸秽，馬斯克已經(jīng)很多年沒接受過他們的采訪了儒老。

根據(jù)Beauchamp先生與視頻中提到的公司之間的電子郵件來(lái)往記錄，去年12月记餐，他向這家名為Magna-FX的公司匯款27216美元驮樊。

Magna-FX讓他的投資看起來(lái)似乎在增值，甚至讓一名銷售代理使用軟件遠(yuǎn)程控制了Beauchamp的電腦片酝，假裝轉(zhuǎn)移資金用來(lái)投資囚衔。

為了提取增值的資金，Beauchamp被告知要支付3500美元的管理費(fèi)和3500美元傭金雕沿。他把錢匯出去后练湿，又被告知還需要支付2萬(wàn)美元，才能提取其中大約20萬(wàn)美元荡西。他再次支付了這筆錢谴疾。

最后，Beauchamp用完了退休儲(chǔ)蓄蹲楷，刷爆了信用卡蠕艳，動(dòng)用了信用額度椭肝，還從姐姐那里借錢來(lái)投資和支付費(fèi)用茬蒿。但騙子仍一再要求他支付更多筆費(fèi)用磺则。Beauchamp這才聯(lián)系了警方。

遺憾的是附扭，這個(gè)案件尚未取得任何進(jìn)展牧俩。

三、平臺(tái)監(jiān)管面臨挑戰(zhàn)叔寓，刪視頻治標(biāo)不治本

虛假?gòu)V告之所以盛行妨迈，和平臺(tái)的監(jiān)管疏忽也脫不開關(guān)系。

一些被偽造視頻的人拿起了法律武器穷窃。澳大利亞億萬(wàn)富翁Andrew Forrest對(duì)Facebook的母公司Meta提起民事訴訟呈枉，指控其在廣告業(yè)務(wù)運(yùn)營(yíng)方面存在疏忽。他的深度偽造視頻被用在了Facebook廣告投放中埃碱，他認(rèn)為這將引誘“無(wú)辜用戶進(jìn)行不良投資”猖辫。

Meta回應(yīng)道，公司正在訓(xùn)練自動(dòng)檢測(cè)系統(tǒng)砚殿，以捕捉其平臺(tái)上的欺詐行為啃憎，但同時(shí)也稱這是一場(chǎng)“貓捉老鼠”的游戲，詐騙者會(huì)不斷改變策略以逃避檢測(cè)似炎。

YouTube也在采取一些措施來(lái)對(duì)應(yīng)深度偽造視頻辛萍。今年3月，YouTube更新了政策羡藐，要求創(chuàng)作者披露他們是否使用了AI進(jìn)行創(chuàng)作贩毕，并禁止欺詐和篡改視頻。

YouTube在一份聲明中提到仆嗦，今年1-3月期間辉阶，公司刪除了超過1570萬(wàn)個(gè)頻道和超過820萬(wàn)個(gè)違反內(nèi)容政策的視頻。但只是刪除視頻仍是治標(biāo)不治本的行為欧啤，平臺(tái)需要重新審視自己的審核制度痪僵，從根源處解決問題。

結(jié)語(yǔ)：深度偽造視頻污染互聯(lián)網(wǎng)

數(shù)字詐騙的歷史倍挚，就像互聯(lián)網(wǎng)一樣悠久暮诫。但隨著AI技術(shù)越來(lái)越成熟、AI工具的使用成本越來(lái)越低绪忙，利用該技術(shù)進(jìn)行詐騙的時(shí)間和金錢成本也大幅壓縮参唆。以馬斯克等名人為主角的新一波深度偽造視頻正在污染互聯(lián)網(wǎng)。

隨著技術(shù)的不斷發(fā)展肘渔，深度偽造技術(shù)或許會(huì)變得更加難以分辨躯殷，這對(duì)平臺(tái)、監(jiān)管機(jī)構(gòu)、法律都提出新的要求独府。