眼见耳听也不一定是真 我用AI骗你

1.升级的诈骗

骗子AI换脸成熟人发来视频

男子因『面聊』心无戒备

10分钟被骗430万元

2.失控的AI

路人被『一键脱衣』造黄谣

蹭影视剧流量 吻戏将男主换脸

AI歌手合成声音涉多项侵权……

3.未来的隐忧

使用门槛低，技术成罪犯『帮凶』

人脸数据被大量采集，刷脸时代人人自危

网络的便捷性因信任危机大打折扣

4.法律的跟进

规范平台个人信息数据的收集、管理

加大以技术进行『反制』的投入力度

对AI技术在不同领域内的应用进行监管

>>案例

科技公司老板10分钟被骗走430万元

4月20日11时40分左右，福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他，两人经过短暂聊天后，好友告诉郭先生，自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，所以想要借用郭先生公司的账户走一下账。好友向郭先生要了银行卡号，声称已经把钱打到郭先生的账户上，还把银行转账底单的截图通过微信发给了郭先生。基于视频聊天信任的前提下，郭先生没有核实钱是否到账，于11时49分先后分两笔把430万元给对方打了过去。钱款转账后，郭先生给好友微信发了一条消息，称事情已经办妥。但让他没想到的是，好友回过来的消息竟然是一个问号。

郭先生拨打好友电话，对方说没有这回事，他这才意识到竟然遇上了“高端”骗局，骗子通过智能AI换脸技术，佯装成好友对他实施了诈骗。

“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是通过微信给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备”，郭先生说。

4月20日12时21分，包头市电信网络犯罪侦查局接到福建省福州市公安局刑侦支队的外协请求，称福建一知名民营企业负责人被骗走430万元，涉案的银行卡为包头市蒙商银行对公账户，希望包头警方能够帮忙进行紧急止付。

包头市公安局电信网络犯罪侦查局立即启动“警银联动绿色查询机制”，民警以最快速度完成核查、报审程序，第一时间将涉案卡的信息通报至蒙商银行，仅用时10分钟，就将该诈骗账户内的336.84万元被骗资金成功拦截。同时，向福州市公安局警方提供了剩余款项93.16万元资金流出信息，为深入突破该案剩余资金查找提供了突破方向。 据《每日经济新闻》

>>提醒

善良的人们啊，你们一定要小心

AI诈骗来袭，成功率接近100%！

据湖北网警巡查执法5月6日消息，AI技术改变诈骗方式，新骗局来袭后，诈骗成功率竟接近100%。

除AI换脸外，还有一种是声音合成，骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。某公司财务接到领导电话，要求立刻给供应商转款2万元，由于老板的口音十分逼真，该财务信以为真，结果发现被骗。

还有骗子在盗取他人微信号后，便向被盗微信者的好友“借钱”，为取得对方信任，他们会转发之前的语音。尽管微信没有语音转发功能，但骗子通过提取语音文件或安装非官方版本（插件），即可实现语音转发。

除了诈骗钱财，此前还有女子被人利用AI“一键脱衣”造谣，某男子利用视频合成技术，将电视剧中与某知名女星亲吻的男主角换成自己以蹭流量……以上案件细节不尽相同，但都直观展示了AI作恶的可怖之处。一是技术门槛大幅降低，一键生成为病毒式传播大开方便之门。二是受害者无差别，骗人内容五花八门。三是追责难上加难。因此，普及人工智能技术时，必须以法律和道德加以规范，避免滥用、泄露个人信息等行为。

警方提醒，公众要提高防范意识，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；网络转账前要通过电话等多种沟通渠道核验对方身份。