你刷到过全红婵、孙颖莎、王楚钦卖土鸡蛋的视频吗？别信，那都是假的。近日，网络上掀起一波“打假”风浪，目标直指AI（人工智能）克隆声音乱象。法律专家称，利用AI仿冒他人身份“带货”是违法行为，已侵犯被仿冒者和消费者权益。
“我是你们的婵宝，有事请大家帮忙，今天让妈妈先拿出300单老家的土鸡蛋，给大家放福利”“大家好，我是莎莎，我为婵宝家农家土鸡蛋代言”“大家好，我是王楚钦，昨天收到婵妹私信，说她家土鸡蛋大丰收，这么好的土鸡蛋不发出去就可惜了”……听到熟悉的“声音”，粉丝误以为是奥运冠军本人，纷纷下单购买。殊不知，这些都是通过AI伪造，克隆出的名人声音。
中国人权研究会理事、云南大学人权法研究中心执行主任刘红春说，利用AI仿冒奥运冠军“带货”的行为，已侵犯了他们的肖像权与声音权。他强调，该类仿冒行为并非仅针对名人，仿冒任何自然人均属违法。不法分子选择名人下手，正是看中其社会影响力和公众信任，从而更易达成误导消费者、推销商品甚至实施诈骗的目的。
“这些行为违反了民法典中‘任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权’‘对自然人声音的保护，参照适用肖像权保护的有关规定’等条文。”刘红春说，以上述为例，商家利用AI伪造声音，编造故事，推销商品，已构成对全红婵等奥运冠军声音权的侵害，被侵权人可以要求商家停止侵权行为、赔偿损失与赔礼道歉。
“此举还侵犯了消费者知情权。”刘红春说，如果商家诱导消费者购买高价、低质或不存在的商品，且骗取财物数额较大，就触犯了刑法，涉嫌诈骗罪。
中国政法大学人权研究院教授刘小楠认为，当前互联网平台出现不少AI移花接木的视频，AI换脸、AI盗声的不当滥用，易引发侵犯肖像权、声音权，侵犯公民个人信息及诈骗等犯罪行为，是人工智能技术带来的新挑战之一。她表示，我国目前对AI合成技术已经作出一些规定，如《生成式人工智能服务管理暂行办法》就明确规定：提供和使用生成式人工智能服务，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
“还有一个好消息是《人工智能生成合成内容标识办法》将从今年9月1日起施行，所有AI合成的内容，必须依法打电子水印，没有标识的，大家可以举报。如果刷到疑似假货，也可录屏举报，或者@官方客服。”刘红春说。
法律专家提醒公众要保持警惕，勿轻信AI生成的音视频或直播，避免财产损失；被仿冒者可拿起法律武器，维护自身权益；网站平台要提升检测鉴伪能力，对此类乱象加大监管，对发布者内容严格审核，做好处置。
据新华社
■相关新闻
9月1日起
AI生成合成内容必须添加标识
国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》，9月1日起正式施行，“标识办法”明确所有AI生成的文字、图片、视频等内容都要“亮明身份”。
截至目前，我国已有490余款大模型在国家网信办完成备案，240余款大模型在省级网信办完成登记，我国生成式人工智能产品的用户规模已达2.3亿人。“标识办法”明确，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。平台在服务提供者的内容上架或上线时要进行审核，核验生成合成内容标识，对未标识或疑似生成内容要添加风险提示，从而在传播端阻断虚假信息扩散。
“标识办法”与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规充分衔接。服务提供者在履行算法备案、安全评估等手续时，相关材料可能涉及标识的技术细节，如水印算法、元数据格式、服务商编码等，这些信息能够帮助执法部门在发现违法内容时快速识别内容来源，追踪到服务提供者或者用户。
据央视网