演员吴越发文怒斥“AI诈骗”：“谁在利用Ai肆意抓人替自己做恶”

10月18日凌晨，演员吴越的一条微博，又一次把“AI造假”这个老话题推到了台前。这回不是什么技术演示，而是有人直接把她的脸和声音“借”走，做成了带货视频，在网上公开叫卖产品。

事情的经过并不复杂：吴越发现，自己的声音与形象被人用AI深度伪造技术合成，摇身一变成了带货主播，对着镜头卖力推销。她随即发文怒斥，一句“一觉醒来，谁在利用AI肆意抓人替自己做恶”，把那种被莫名“拉下水”的荒诞感写得明明白白。

更直接的是，吴越没有停留在泛泛吐槽，而是把矛头对准了具体账号。她在微博上点名“花姐”，接连发问：“你骗了多少人的钱？请如数奉还！”并直言这种借AI替人作恶的行径“太恶劣”。态度之鲜明，可以说是半点没打算给造假者留余地。

从曝光的造假视频看，这个AI生成的“假吴越”话术相当熟练。视频里，“她”声称“它不是找我，是我找他们的”，紧接着又抛出“比618、双十一还便宜”“不好都给我退回来”之类的促销话术，一步步诱导消费者下单。熟悉的语气、熟悉的脸，配上熟悉的促销套路——如果不是本尊亲自出来辟谣，普通人很难一眼分辨真假。

这件事之所以让人后背发凉，恰恰在于它的“低成本”与“高迷惑性”。过去造假还需要剪辑、拼凑，如今只要声音和形象被采集，AI就能批量生成一个“替你说话”的分身。明星尚且能靠本人发声及时止损，那些信了视频、下了单的消费者，又该找谁去要个说法？

吴越那句“请如数奉还”，问的是“花姐”，其实也是问给所有人听的：当一张脸、一个声音可以被随意复制粘贴，被冒用的不只是演员本人，还有屏幕那头每一个选择相信的人。技术的门槛在降低，作恶的成本也在降低，而“眼见为实”这四个字，正在变得越来越不可靠。

一觉醒来，谁在利用AI替自己做恶？这个问题，恐怕不只是吴越一个人想问。

编辑：文小娱

发布于：河南

相关推荐

AI与恶的距离
一个AI恐怖故事：我在色情网站，看到了自己
这些最懂电信诈骗的人，正在用AI 反诈骗
细思极恐，AI“花式诈骗”的N种方式
AI换脸诈骗，防不胜防？
79元买30张“脸”，谁在甩卖AI换脸工具？
看似“人工智能”实则人为陷阱，央媒揭AI诈骗新套路
谁在利用虚拟人做局？
AI合成的“俄罗斯美女”，正猛赚中国人的钱
AI合成声音技术遭滥用，“卷福”卷入AI骗局？

网址: 演员吴越发文怒斥“AI诈骗”：“谁在利用Ai肆意抓人替自己做恶” https://www.xishuta.cn/newsview154265.html