“AI張文宏”開始深夜帶貨？老人信以為真，已有多人上當(dāng)受騙
什么？“張文宏”開始帶貨了？
最近有網(wǎng)友向媒體發(fā)來一段視頻詢問“張文宏是不是帶貨了？”還在賣一種蛋白棒，家里的老人信以為真已經(jīng)下單，還轉(zhuǎn)發(fā)了很多群。
該視頻系A(chǔ)I合成
記者核實(shí)發(fā)現(xiàn)，這個(gè)賬號名為“般畫234”。在視頻中，“張文宏”反復(fù)介紹一種產(chǎn)品，口型是他的，聲音也是他的。
但稍微懂點(diǎn)AI的小伙伴們一眼就能分辨，這是AI合成的視頻！但是老年人哪里懂甄別啊？
記者發(fā)現(xiàn)，這段視頻已在該賬號內(nèi)不可見。但商品櫥窗內(nèi)還保留著蛋白棒售賣的頁面，并顯示已售出1266件。
新民晚報(bào)記者晏秋秋評論，現(xiàn)在的科技，只要有一段張文宏正常說話的視頻，再把你想要他說的話輸入，AI一處理就能自動生成帶貨視頻。不法賬號趁著深夜把這種帶貨視頻放出，到了早上再把視頻屏蔽掉。這樣買的人就投訴無門，而且也不太容易被發(fā)現(xiàn)。
這么做毫無疑問，就是在犯罪！賣掉這幾百單，可能要坐牢幾年，這樣的賬號也存活不了多久，平臺會第一時(shí)間封禁賬號、封存資金。
類似案例
“假靳東”騙老人上當(dāng)
今年11月，江西一位老人來到銀行辦理銀行卡，但手續(xù)不全又不肯離開，警方到現(xiàn)場后，老人表示要到銀行貸款200萬元給自己的男朋友“靳東”拍戲。
“我是在短視頻平臺上認(rèn)識的‘靳東’，‘靳東’向我表白了，并用兩人合照發(fā)布了短視頻，現(xiàn)在他拍戲需要200萬元，我要去幫助他。”老人略顯激動在說道。
民警隨即拿起老人的手機(jī)進(jìn)行查看，發(fā)現(xiàn)老人所謂的大明星“靳東”是騙子冒充的，其所發(fā)布的視頻也是由電腦AI合成，但老人對網(wǎng)絡(luò)知之甚少，對于騙子所說所做深信不疑。
民警向老人進(jìn)行耐心勸導(dǎo)，通過展示網(wǎng)絡(luò)上一些冒充“靳東”詐騙的新聞和現(xiàn)場利用AI合成照片等方式，老人才醒悟過來。
如何辨別
屏幕里是真人還是AI合成人？
螞蟻集團(tuán)天璣實(shí)驗(yàn)室安全算法專家朱凱建議，通過遮擋結(jié)合“動起來”的方式，來識別到底是真人還是“數(shù)字人”——比如，在摁鼻子或摁臉的同時(shí)左右搖晃頭部，這就是“動起來”的一種方式。目前很多“AI換臉”的基礎(chǔ)是被模仿者的照片，照片是平面的，所以生成的“數(shù)字人”以正面、平面為主。當(dāng)人臉動起來時(shí)，會呈現(xiàn)出臉部的三維結(jié)構(gòu)，算法只能基于平面的照片推測三維結(jié)構(gòu)，按照現(xiàn)有的技術(shù)手段，推測結(jié)果大多不太理想，從而讓人發(fā)現(xiàn)漏洞。
此外，可以要求對方在臉部揮手、用手指比數(shù)字等。真人做這些動作時(shí)，臉部表情、手部動作都很自然；如果是“數(shù)字人”，很可能出現(xiàn)問題。雖然現(xiàn)有的AI技術(shù)有能力生成臉部被部分遮擋的靜止畫面，但“揮手”“比數(shù)字”意味更多的動作，目前技術(shù)還沒辦法實(shí)時(shí)生成完美效果，從而出現(xiàn)破綻。
值得注意的是，以上鑒別方式都是基于現(xiàn)有算法的局限性。未來隨著AI技術(shù)的發(fā)展，“動起來”“揮手”“比數(shù)字”等有可能難不倒新技術(shù)，“數(shù)字人”同樣能順利完成以上動作，從而更加具備迷惑性。所以，防范AI詐騙，還是要從自己出發(fā)，做好信息保護(hù)，提高警惕。
例如，不要泄露個(gè)人信息，尤其要注意圖像、聲音、指紋等生物信息的保護(hù)。“AI換臉”的數(shù)據(jù)基礎(chǔ)是被模仿人的照片、視頻等，個(gè)人公開在外的照片、視頻越多，意味著AI算法參考的數(shù)據(jù)越多，生成的“數(shù)字人”會更真實(shí)。
同時(shí)，在涉及資金交易等場景下，需要多留心眼，不輕易相信視頻、聲音。很多時(shí)候，傳統(tǒng)的識別方式要比技術(shù)識別更有效。例如，可以詢問對方只有當(dāng)事人之間知道答案的問題、共同經(jīng)歷的事情等。
本文鏈接：http://knowith.com/news-23-94957.html“AI張文宏”開始深夜帶貨？老人信以為真，已有多人上當(dāng)受騙
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
