“AI張文宏”開始深夜帶貨？老人信以為真，已有多人上當(dāng)受騙

全中申

什么？“張文宏”開始帶貨了？

最近有網(wǎng)友向媒體發(fā)來一段視頻詢問“張文宏是不是帶貨了？”還在賣一種蛋白棒，家里的老人信以為真已經(jīng)下單，還轉(zhuǎn)發(fā)了很多群。

該視頻系A(chǔ)I合成

記者核實發(fā)現(xiàn)，這個賬號名為“般畫234”。在視頻中，“張文宏”反復(fù)介紹一種產(chǎn)品，口型是他的，聲音也是他的。

但稍微懂點AI的小伙伴們一眼就能分辨，這是AI合成的視頻！但是老年人哪里懂甄別�。�

記者發(fā)現(xiàn)，這段視頻已在該賬號內(nèi)不可見。但商品櫥窗內(nèi)還保留著蛋白棒售賣的頁面，并顯示已售出1266件。

新民晚報記者晏秋秋評論，現(xiàn)在的科技，只要有一段張文宏正常說話的視頻，再把你想要他說的話輸入，AI一處理就能自動生成帶貨視頻。不法賬號趁著深夜把這種帶貨視頻放出，到了早上再把視頻屏蔽掉。這樣買的人就投訴無門，而且也不太容易被發(fā)現(xiàn)。

這么做毫無疑問，就是在犯罪！賣掉這幾百單，可能要坐牢幾年，這樣的賬號也存活不了多久，平臺會第一時間封禁賬號、封存資金。

類似案例

“假靳東”騙老人上當(dāng)

今年11月，江西一位老人來到銀行辦理銀行卡，但手續(xù)不全又不肯離開，警方到現(xiàn)場后，老人表示要到銀行貸款200萬元給自己的男朋友“靳東”拍戲。

“我是在短視頻平臺上認(rèn)識的‘靳東’，‘靳東’向我表白了，并用兩人合照發(fā)布了短視頻，現(xiàn)在他拍戲需要200萬元，我要去幫助他�！崩先寺燥@激動在說道。

民警隨即拿起老人的手機(jī)進(jìn)行查看，發(fā)現(xiàn)老人所謂的大明星“靳東”是騙子冒充的，其所發(fā)布的視頻也是由電腦AI合成，但老人對網(wǎng)絡(luò)知之甚少，對于騙子所說所做深信不疑。

民警向老人進(jìn)行耐心勸導(dǎo)，通過展示網(wǎng)絡(luò)上一些冒充“靳東”詐騙的新聞和現(xiàn)場利用AI合成照片等方式，老人才醒悟過來。

如何辨別

屏幕里是真人還是AI合成人？

螞蟻集團(tuán)天璣實驗室安全算法專家朱凱建議，通過遮擋結(jié)合“動起來”的方式，來識別到底是真人還是“數(shù)字人”——比如，在摁鼻子或摁臉的同時左右搖晃頭部，這就是“動起來”的一種方式。目前很多“AI換臉”的基礎(chǔ)是被模仿者的照片，照片是平面的，所以生成的“數(shù)字人”以正面、平面為主。當(dāng)人臉動起來時，會呈現(xiàn)出臉部的三維結(jié)構(gòu)，算法只能基于平面的照片推測三維結(jié)構(gòu)，按照現(xiàn)有的技術(shù)手段，推測結(jié)果大多不太理想，從而讓人發(fā)現(xiàn)漏洞。

此外，可以要求對方在臉部揮手、用手指比數(shù)字等。真人做這些動作時，臉部表情、手部動作都很自然；如果是“數(shù)字人”，很可能出現(xiàn)問題。雖然現(xiàn)有的AI技術(shù)有能力生成臉部被部分遮擋的靜止畫面，但“揮手”“比數(shù)字”意味更多的動作，目前技術(shù)還沒辦法實時生成完美效果，從而出現(xiàn)破綻。

值得注意的是，以上鑒別方式都是基于現(xiàn)有算法的局限性。未來隨著AI技術(shù)的發(fā)展，“動起來”“揮手”“比數(shù)字”等有可能難不倒新技術(shù)，“數(shù)字人”同樣能順利完成以上動作，從而更加具備迷惑性。所以，防范AI詐騙，還是要從自己出發(fā)，做好信息保護(hù)，提高警惕。

例如，不要泄露個人信息，尤其要注意圖像、聲音、指紋等生物信息的保護(hù)�！癆I換臉”的數(shù)據(jù)基礎(chǔ)是被模仿人的照片、視頻等，個人公開在外的照片、視頻越多，意味著AI算法參考的數(shù)據(jù)越多，生成的“數(shù)字人”會更真實。

同時，在涉及資金交易等場景下，需要多留心眼，不輕易相信視頻、聲音。很多時候，傳統(tǒng)的識別方式要比技術(shù)識別更有效。例如，可以詢問對方只有當(dāng)事人之間知道答案的問題、共同經(jīng)歷的事情等。

來源：新聞晨報綜合