D AI换脸参与新型诈骗 有人因此被骗400多万

当AI换脸技术快速发展的同时，一些诈骗分子也盯上了AI诈骗这项新技术。近日，内蒙古包头警方通报一起利用AI实施诈骗的案件。案发当天，福州某科技公司的郭先生的生意伙伴通过微信视频联系他，声称正在外地竞标，急需一笔430万元的保证金，并要求从公司的对公账户转账。

由于在视频中看到朋友熟悉的面孔和听到他的声音，郭先生对对方的身份深信不疑。他没有打电话核实，仅仅在10分钟内分两笔转账，将430万元汇入了朋友的账户。等他汇完款习惯性地打电话通知朋友时，才意识到上当受骗，原来那个借钱的骗子利用了AI智能换脸技术，成功佯装成郭先生的朋友实施了诈骗。

引人关注的是，这个骗子并没有使用陌生号码向郭先生发送好友请求，而是直接登录了朋友的微信账号，并发起了视频聊天，轻而易举地获得了郭先生的信任。包头警方接警后迅速与福州警方合作，启动了止付机制，成功拦截了336.84万元资金。然而，仍有93.16万元被骗子转移，目前警方正全力追缴。

据新华6月8日的消息称，“新华视点”记者近日与公安部门核实确认，AI诈骗案在诈骗类案件中占比很低。但公安机关已注意到此犯罪新手法，将加大力度会同有关部门开展技术反制和宣传防范。

据工信部信息显示，伴随AI技术快速发展，合成技术门槛持续降低，逐渐向低算力、小样本学习方向演进，利用手机终端即可完成，对算力和数据的要求下降明显。同时，随着AI大模型的技术加持，正逐步由面部合成向全身、3D合成发展，效果更加逼真。

对此，国家开发投资集团特级专家、厦门美亚柏科AI研发中心总经理赵建强也表示，AI技术正加速向网络诈骗、虚假信息、色情等领域渗透。如在一些网络平台上假冒明星、公众人物生成视频图像，吸引网民。此外，AI技术也可能被用来规模化地实施违法犯罪，如批量、自动维护网络账号，发送虚假信息，模拟人工在线聊天等。

值得关注的是，当前AI技术不再是实验室的半成品，引发热议的“换脸”“拟音”技术已有较成熟的开源软件，使用门槛低。