警惕!“深度合成技术”诈骗正在我们身边发生

2023-05-29 18:33:06 来源: 参考消息


【资料图】

参考消息网5月29日报道据西班牙《世界报》网站5月24日报道,人工智能诈骗在中国正屡屡出现。

今年4月,中国东南部福州市某科技公司法人代表郭先生接到好友的视频电话,声称在外地投标需要430万元人民币保证金,且需要公对公账户过账,所以想要借用郭先生公司的账户走一下账。郭先生看到屏幕上朋友焦急的脸,毫不犹豫地答应向他提供帮助。

好友随后向郭先生要来了银行卡号,并声称已经把钱打到郭先生的账户上,并把一张(虚假的)银行转账底单截图通过微信发给了郭先生。郭先生随后就通过公司账户将430万元人民币汇给对方。

郭先生不知道的是,这笔钱并没有落到他好友的手里,因为微信视频通话的对方根本不是他的朋友,而是一群骗子用人工智能(AI)的方式“克隆”了他朋友的脸和声音。

转账成功后,郭先生询问好友(这次是真正的好友)是否一切顺利,对方却回答说他从未向他求助。郭先生明白自己遭遇了诈骗,立即报了警。

中国媒体近日纷纷报道了这场骗局,幸运的是郭先生汇出的资金中有近80%被及时拦截。而另一位接到“妻子”微信视频通话的男子小辉(音)就没有这样的运气了,他被同样套路的骗局骗走了2.8万元人民币。

中国社交媒体平台微博上发布的一条警方提示称,建议公众加强个人信息保护意识,防止信息泄露,不轻易提供人脸、指纹等个人生物信息给他人,尽量避免在互联网上过度公开或分享自己的照片、视频、语音等信息。与“AI换脸”有关的骗局近日来已经连续成为微博热门话题。

据报道,在电商行业,直播一直存在一些争议。因为一些主播为了销售更多产品而在直播中使用这种AI技术“换脸”知名主播。这样的现状加上一起起诈骗案在社交网络上疯传令成千上万的用户担心,在人工智能技术的推动下,这类骗局会暴增,还会导致更多假新闻的传播。

几周前,中国甘肃省警方逮捕了一名男子,他利用ChatGPT(聊天生成预训练转换器)炮制“火车撞死9人”的假新闻,并散布在互联网上造成大量传播。

逮捕这名男子依据的是专门针对“深度合成技术”的监管法规。这是中国互联网监管机构在今年年初实施的法规,此前美国开放人工智能研究中心(OpenAI)基于人工智能研发的ChatGPT一夜爆红。

标签:

[责任编辑:]

最近更新