近期，一些社交平台上出现所谓“营养专家”出镜推荐的“独家减肥食谱”，不少消费者信以为真，纷纷下单购买。那么，这些看似权威的推荐，是否真的出自专家本人？背后隐藏着什么秘密？央视《每周质量报告》对此作了报道。
名医现身科普视频 当事人全然不知
一条AI仿冒视频中，侃侃而谈的专家，商家称是北京协和医院临床营养科主任于康教授，他是我国营养与健康领域的权威专家。
记者在小红书、微信视频号上，刷到了不少以于康教授形象出镜的科普视频，介绍和推销减肥食谱。记者随后联系北京协和医院调查核实。于康教授明确表示，他本人从未参与录制此类视频。
北京协和医院临床营养科主任于康：我几乎天天收到好朋友和各种有我联系方式的人给我发来的消息，有质疑，还有提醒，经常就是“这是你吗？”“这是于康吗？”我一看这完全是我的形象，声音相似度完全超乎了我的想象。现在技术能达到这个层级，一方面觉得不可思议，另外一方面觉得有一点后背发凉，挺可怕的。
科普视频中，商家不仅盗用于康教授的形象，其介绍的营养知识，也是毫无依据，没有得到科学验证。于康教授更为担忧的是，视频里的错误信息，会让营养学界长期以来的科普努力，付诸东流。
于康教授：由于这些东西的影响，大家出现了一些混淆，甚至可以说，一些过去那些错误认知出现了反流或加重，这点比对我个人影响还要坏。
不仅于康教授有这样的困扰，北京协和医院临床营养科马方教授也遭遇了同样的情况。在一个平台网店的链接里，视频里的“马教授”分享了自己的减肥经历。
据北京协和医院介绍，不少知名专家被AI换脸，用于“养生”“瘦身”等虚假宣传，甚至还有不法商家利用AI生成假医生，打着北京协和医院的旗号，销售各类商品，误导消费者。医院、医生深受其害。
AI伪造央视名主持人带货
被罚款20万元
今年年初，北京市海淀区市场监管局接到消费者举报，一直播间宣称一款鱼油产品具有医疗功效。该账号发布的短视频中，出现了中央广播电视总台主持人李梓萌的形象。
记者注意到，发布仿冒主持人李梓萌短视频的账号名为“广州白云深海鱼油工厂”，拥有粉丝80多万。进入直播间后记者看到，这款鱼油售价59.9元三瓶，页面显示已售出17.7万单。
经市场监管部门核实，李梓萌从未代言这款鱼油产品，也未授权使用其形象进行宣传。在这条短视频上线后的半个月里，商家借助短视频链接，累计销售鱼油1100余单，销售额达6万余元。
市场监管部门工作人员：短视频当中擅自使用AI技术，对李梓萌这种知名主持人的形象进行剪辑加工，这个行为构成了发布虚假广告，最后综合其违法情节，我局对其作出罚款20万元的行政处罚决定。
网信部门重拳处置违规账号
《人工智能生成合成内容标识办法》在9月1日已经正式实施，明确要求：利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息，必须依法添加相应的声明标识。同时，专家表示，平台应加强AI生成内容审查责任。
近期，网信部门重拳处置一批违规账号，同时督促平台集中整治，已累计清理8700余条违规信息、处置11000多个违规账号。网信部门表示，将继续压实网站平台主体责任，对利用AI仿冒公众人物开展直播营销问题保持高压严管态势，对恶意营销账号，发现一批、处置一批、曝光一批。 据央视新闻