商报记者 朱光函
站在公安局门口，小阳（化名）终于勉强露出了久违的微笑。在经历了被人用AI造黄谣和连续的骚扰之后，她终于能喘一口气。今年7月9日，有人告诉小阳，她的照片被一个自称是她男朋友的人放在了境外网站上。“当时我看到对方给我的照片时，我整个人都呆住了。照片上的人穿着非常暴露，虽然脸是我的，但我绝没有拍过这样的照片。”小阳立刻就报了案，并向警方提供了证据，最终造黄谣的人被抓到。“用AI造黄谣的人竟然是我之前拒绝过的一位追求者，因为怀恨在心，就用AI工具把我发在社交App上的照片做成不雅图片。”
在AI技术发展一日千里的当下，有人将罪恶之手伸向AI这个本该用来提升人们幸福感的工具上。一系列利用AI技术施行的学术造假、诈骗、侵权等恶劣行为，正在从各个方面污染人们的生活和工作。AI作为工具，没有对错之分，但用AI技术从事犯罪活动，则一定要论罪。
就在11月19日开幕的2024年世界互联网大会乌镇峰会上，一项用AI鉴别照片是否为伪造的技术发布，出于善意被开发的AI，正在用善意维护用户的安全。
A.AI污染，所涉者众
小阳所遭遇的事，就是AI被滥用的结果之一。用AI工程师“木愚”的话来说，利用AI工具进行的不规范行为在多个领域都有出现，且在污染多个维度。
就在不久前，“木愚”参与开发的文转图AI模型被客户投诉。投诉的内容是模型所转化的画面太过荒唐。“木愚”透露，当时他看到客服人员发来的用户页面截图后，也觉得很离谱。用户输入的文字是，创作一幅画，要求有美女和水果。但AI模型生成的图形为水果形状的美女。甚至有一幅画中，生成的是一个草莓外皮的美女，看起来有些渗人。后来技术员通过远程技术协助才发现，这位用户在使用文转图功能时没有清空此前的记录，导致AI误以为水果和美女需要呈现结合状态。“简单来说，就是用户当时的使用页面，被之前的使用记录污染了。”
然而“木愚”所说的只是AI污染的一个缩影。被污染的还有文学创作领域。在一个名为“AI小说生成研究”的QQ群里，群主“梦醒时分”在销售一款名为“一键成书”的App。App分为三个套餐，其中A套餐负责提纲生成与小说章节梳理，B套餐为基本内容生成，C套餐为增加情侣暧昧对话与行为的内容描写。“现在不少小说平台对小说的质量要求没以前那么高了，只要前面的几个章节修改的好看一些，AI写的小说也一样能换钱。我用这套系统一个月能够生成30部10万字左右的小说，再从这些小说中挑选几部生成较为完整的，稍作加工就能赚钱。”
记者按照“梦醒时分”的指导，在“一键成书”App上输入武侠、古代、穿越、情侣等关键字。App接收指令并开始生成文字，短短20分钟后，一篇行文逻辑不通、辞藻空洞、内容枯燥的小说成文。其中多处出现“眼睛闪动着寒光”“歪着嘴大笑”等烂梗。“梦醒时分”对此表示，AI生成的小说大多如此，“这些小说就是为了快速变现，有些微短剧的导演也会使用其中一些内容作为剧本。”
然而，这些也仅是AI污染的冰山一角。互联网上，有MCN机构利用人工智能程序日产上千篇虚假新闻，导致大量不实信息在网上病毒式传播；还有医学论文因使用AI生成的虚假配图而被撤稿。“现在有些医学生连医学论文都用AI来写，其中一些图片甚至连人体血管的走向和位置都标错了，这是对医学严谨的学术环境的污染”杭州市农工民主党党员、退休医师朱先生说。
可以说AI每天都在生产海量错误信息，污染各个行业。据清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示，近一年来，经济与企业类AI谣言量增速达99.91%。