B.AI作恶，罄竹难书

当AI技术不断推动生产力提升的同时，却也被不法之徒用作敛财之用。小阳在寻找造谣者之时，也寻求过有同样遭遇的受害者帮助，在这个过程中，她接触到了一些用AI伪造女性不雅照片的社交群。在小阳的推荐下，记者加入了一个名为“女神AI”的QQ群。该QQ群的公告内容中显示，该群为AI换脸视频教学群，进群后群主负责收费教学。

群主“清楚系”介绍，教学内容分为四个套餐，售价最低的A套餐价格为399元，内容为模型搭建、动态视频。售价最高的D套餐为1688元，内容为明星模型和捏脸搭建、任意女神成人视频制作、个人变现细节心得。为了说明其所售的套餐性价比高，“清楚系”特别强调，除了A套餐之外，其他教学套餐都可以实现成人内容制作。

除了兜售App之外，“清楚系”还提供照片“去衣”服务，每张照片的服务费为5元，视频换脸的服务费为25元。“每天我都要做上千张‘去衣’照片，换脸视频花的时间太久，我都不愿意接。”然而“清楚系”加工过的照片和视频除了收取服务费之外还有另一个敛财手段。“这些照片，一方面可以回流给AI工具学习，另一方面，其他工作群也会收集原图作为学习资料，此外视频和照片还可以发到境外网站上，这又可以收一笔费用。”

小阳的遭遇并非个例。今年6月，北京警方侦破了一起用AI伪造裸照的案件。犯罪嫌疑人白某某用了一款AI智能软件制作并贩卖了近7000张裸照，这些用AI技术合成的裸照中，不仅有明星、网红，还有一些普通人和白某某的身边人。无独有偶，在深圳，一个利用AI工具伪造“不雅照片”的诈骗团伙也被警方一网打尽。

C.AI犯罪，必受制裁

造黄谣的人受到了法律的制裁，这让小阳觉得安慰。“现在我已经注销了此前发布过生活照的账号，也要求造黄谣的人删除了在境外网站上的照片和视频，希望一切都能恢复到正轨。”

事实上，被不法分子用AI工具伤害过的人正被法律层层保护起来。9月13日，杭州市公安局召开主题新闻发布会，通报了全国首起利用AI技术侵犯公民个人信息的案件。经调查发现，该犯罪团伙从今年5月起在境外平台招揽类似“业务”，目前4人已抓获并依法刑事拘留。

而此前伪造并贩卖了近7000张裸照的白某某也被检察机关提起公诉。在公诉人发布的公诉词中提到，人工智能技术兴起之后，已经成为当今科技领域备受瞩目的技术之一，正在深刻改变我们社会、经济以及生活方式，为社会带来更多的便利。同时我们也打击治理运用AI技术实施犯罪，任何利用新技术实施犯罪的行为必将受到严惩。

而破获全国首起利用AI技术侵犯公民个人信息案件的民警也提到，利用人工智能伪造视频进行诈骗等违法行为，并不意味着网络平台人脸识别的防范措施已经被攻破。“调查过程中我们发现，部分头部平台的识别技术相对简单，因此才给了犯罪分子可乘之机。另一些平台的识别技术更加复杂，这是人工智能所无法伪造的。”

在今年的国家网络安全宣传周上，相关部门还发布了《人工智能安全治理框架》1.0版。公安、网信等部门也对各类利用AI技术手段实施违法犯罪的行为进行有力打击，取得了一定的积极成效。但对AI技术潜在风险的防范与治理注定是一项长期工程，必须久久为功。

造黄谣的人受到了法律的制裁，但小阳一想到这件事还是心有余悸。“那时候，用我照片做的黄图在境外网站传播，有人不知道通过什么途径找到我，还骚扰我，这让我非常痛苦。”对于她来说，受到此等侵害纯属无妄之灾。回想整个侦破过程，她不知道应该痛恨AI还是应该感谢AI。“因为，造谣者制作黄谣用的是AI工具，警方发现嫌疑人为熟人的推论也是由AI识图工具提供的。”

小阳的痛苦让人感同身受，这在AI工程师“木愚”看来AI技术没有对错，错的是使用者。AI技术被开发者们不断推动的同时，也一直在争论中前行。

有人说AI技术让人们变懒，让人失去了主动探索和独立思考的能力。有人说，AI技术引发了大量虚假、低质量信息充斥网络，这些“垃圾”信息又成为AI的训练数据，造成AI技术的低质量发展。还有人说，有不法分子利用AI编造虚假新闻，扰乱公众的认知。更有人说，AI生成的误导性财经分析让人们做出错误的投资决定。但AI真正能做的仅是将人们提供的各种数据进行整合和组装，学习和决策的过程都依赖于数据，这使得AI的侵权风险无处不在。

D.AI监管，以矛攻盾

11月19日，在世界互联网大会乌镇峰会上，蚂蚁集团展台发布了一项新技术。而这项技术直接给与人们一把发现伪装的放大镜。人们只需要上传一张照片，就能利用AI技术鉴别照片是不是其他AI的伪造品；不法分子使用了AI换脸技术，也能被AI精准识破。

蚂蚁集团展台工作人员介绍，当大模型和AI智能体带来前所未见的智能体验，模型内部幻觉、安全漏洞和深度生成内容伪造等问题也带来了新的挑战。蚂蚁集团的“AI鉴真”工具，可以实现用AI打败AI。

事实也正是如此。如何帮助人们监督AI，规范使用者的行为，是AI技术发展的最核心所在。党的二十届三中全会《中共中央关于进一步全面深化改革 推进中国式现代化的决定》提出“建立人工智能安全监管制度”“完善生成式人工智能发展和管理机制”。这就解答了AI犯罪该由谁来承担罪责的问题。

而在国家网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》中明确提到，网络服务提供者对AI生成合成内容的标识义务。与此同时，严厉处罚违规使用AI行为，则能有效遏制人工智能无序发展，更好保护公众的合法权益。

去年11月，包括我国在内的28个国家共同达成《布莱切利宣言》，同意通过国际合作，建立人工智能监管方法。中法发表关于人工智能和全球治理的联合声明时指出，“人工智能的机遇、风险和挑战本质上是全球性的”。不仅如此，随着全球数字经济加速发展、数据跨境流动日益频繁，各国还应建立数据出境安全评估制度，加强对重要数据出境的安全管理，重拳打击窃取、侵占、滥用他国数据等行为，坚决捍卫国家数据主权。

■记者手记：

聪明的AI更需要人类的引导

科技的进步是时代发展的趋势，是不可阻挡的潮流。在AI大潮面前，每一个人都是这场生产力变革的见证者。然而，不可否认，AI技术也是把双刃剑，当不法分子利用这项技术时，会对社会造成伤害。对AI技术保持敬畏，不光是行业，更是整个社会应有的基本认知。

随着越来越多的监管手段和技术出现，AI将从法律和技术层面被规范起来，而如何正向推动AI的发展与技术迭代，则需要人类正确的三观，这是人类需要教给AI的重要一课。