主持人：沈晓颜
AI嘉宾：DeepSeek（ ）、千问（）
近日，在短视频平台卖惨带货的“苦命男孩”小海，经媒体曝光后，被集体下架。
这些由AI批量生成的“苦命男孩”，被包装成清秀乖巧、缺少母爱的大学生人设，靠一声声“姨姨妈妈”，诱导中老年女性进入高价橱窗，部分商品佣金高达55%。
有年轻人在劝告长辈无果后，转而“用AI去打AI”：他们生成“黑化小孩”，同样是那张脸，“小海”穿上囚服、抓着铁栏道歉，或戴大金链抽烟数钱，炫耀自己从“姨姨妈妈”身上赚了多少……其目的，是唤醒沉迷其中的长辈。
类似的AI反诈，也发生在澳大利亚。Apate公司部署AI Agent，假扮潜在受害者，与诈骗分子交谈，套取对方的银行账户、加密货币钱包地址等信息，帮助银行、电信运营商打击诈骗。
这两件事，让我们不得不面对一个现实：AI无孔不入，既可能被用来谋取不当利益，也可能被用来防御和反击。我们应清醒认识到，AI作为虚拟工具，或许能打赢某一场遭遇战，却还不足以支撑可持续的治理体系，有效的监管正显得越来越重要。
带着思考和困惑，我与DeepSeek、千问等AI平台进行了沟通。
你好，千问！随着AI的应用愈发广泛，在面对不法分子“钻空子”方面，用AI真能打败AI吗？监管部门应如何加强技术管控与协同治理？
用AI治AI：有效，但有天花板
“黑化小海”和Apate的价值，在于它们显著降低了“防守方”的边际成本。
前者不需要挨家挨户给老人上课，一条30秒视频可以被收藏、转发，起到有针对性的宣传效果；后者则把“陪骗子聊天，套骗子的信息”这件原本属于热心市民的“私人壮举”，变成了可规模化的流程。这是实打实的技术进步，值得肯定。
但它们的天花板也很明显。
“黑化小海”的杀伤力来自反差带来的情绪冲击。老人看不得“不孝”和“骗钱”，人设一崩，心就凉了。可情绪是最容易被耐受的东西。运营者换一张脸、换一套剧本，冲击力就要重新积累。
Apate同样如此：它能消耗一个团伙的作案时间、套取他们的诈骗手段，却无法减少下一个团伙的生成。诈骗供给端是开放的、可再生的，而防守方的每一次“胜利”都只针对已接触的样本。
Apate之后，一定会有“Apate的对手”。未来诈骗电话可能变成两个机器人互相对耗Token。这并非危言耸听：语音钓鱼在全球快速增长，实时换脸工具已在即时通讯软件中流通，东南亚的电诈产业链正在用AI挑选受害者、维持人设、批量对话。攻防共演是生成式AI时代的常态，指望一招制胜并不现实。
防止AI滥用，需要完善的监管和处罚体系。中国新修订的《网络安全法》已于2026年1月1日施行，新增条款首次将人工智能纳入国家网络安全法律体系，明确“国家支持创新网络安全管理方式，运用人工智能等新技术，提升网络安全保护水平”；《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》也在划定红线。
有问题 尽管问
主持人：“用AI打败AI”有一定效果，但不是治本之策。我们真正该追问的是，AI批量生成的虚假人设，为何能精准触达中老年群体？高佣金橱窗为何能顺利导流？平台在AI内容标识、虚假人设识别、带货审核上，显然还有欠账。若平台责任不落实，反诈内容再丰富，也只是在漏洞的下游堵水。
AI反诈还容易滑向“军备竞赛”。诈骗分子同样会升级：识别对方是机器人、缩短对话、转移渠道、用AI生成更逼真的身份。更需警惕的是，AI假扮受害者涉及欺骗手段的边界、数据合规和证据合法性，不能因目的正当而忽视程序正义。
技术问题背后，要解决的是社会问题。老人对“AI小海”深信不疑，深层是情感陪伴缺位。反诈要有效，既要用好技术，更要把责任明晰：平台守土有责，监管及时到位，家庭和社区补上陪伴与沟通。否则，今天黑化一个“小海”，明天还可能冒出新的“AI儿子”。
对“小海”式情感营销，平台应强制标识AI生成内容，限制虚假人设导流，对面向老年用户的带货提高审核门槛；监管部门应明确情感操纵式营销、虚假宣传的定性，压实平台和商家责任。
对Apate式AI反诈，则应划定合法边界，推动银行、电信、平台与执法部门协同。放眼全球，AI诈骗产业链早已跨境，单一国家或企业难以独治，需要推动AI内容标识、诈骗信息共享、跨境取证和司法协作的国际规则，避免治理洼地。
“用AI打败AI”可以作为应急补充，却不能替代平台问责、法律监管和公众的数字素养教育。