扬子晚报/紫牛新闻记者 孔小平
近日，老牌港星黄百鸣亲自打假，公开发声明称，有人盗用他过去的影片，并通过AI技术替换了电影原声，呈现为他“代言”了某一药膏品牌。而刚刚过去的国庆，也有人上传了大量小米CEO雷军的AI音频而成为舆论热点。近年来，从AI换脸到AI换声，各类网络“高仿”屡禁不止，亲眼所见、亲耳所听也未必属实，对大家的警示从“擦亮眼睛”到“竖起双耳”，这就够了吗？
从黄百鸣的公开声明可以看到，是他此前出演的一段电影画面被盗用，通过AI技术将他其中的台词，替换成了某药膏品牌的广告宣传语，合成之后就成了一段广告代言。他在声明里明确表示，到目前为止未授权过任何人及公司去使用其影片或名义来推广任何药膏品牌，该行为不仅侵犯了他的肖像权，也对其名誉造成损害。该行为纯属欺诈，旨在误导公众并从中取利。
近期被AI换声而引发全网热议的还有雷军。国庆期间短视频平台上出现了大量“雷军AI配音”的恶搞视频，一度甚至成为创作热潮。在视频中，“雷军”锐评了堵车、假期等热门话题，其中还有一些不雅谩骂。有网友调侃称“国庆上网被雷军骂了整整7天”。除了吐槽外，视频里的“雷军”还称要投资某某大学，平台上相关话题浏览量过亿。在雷军的微博评论区里不断有人留言询问此事。而雷军本人则在评论区回复了三个愤怒表情，表达态度。
千方百计蹭高仿，无非利益诱人心，有的是违规引流，有的则是诈骗。在黄百鸣的公开声明下，不少受害者表示以为是真的，已经购买了；刘德华方面今年也连续发布声明称，有人通过AI伪造刘德华的声音，并发布剪辑拼凑视频，从中获利；陈佩斯方面9月也在公开声明里指出，高仿者高额牟利，等等。“高仿”名人一般直接以诈骗为目的，利用公众对偶像名人的情感，骗取网民捐赠、用户打赏、重金购物，手段多样，让不少人防不胜防坠入“陷阱”。
目前来看，被AI高仿的明星名人们一边诉诸法律，一边公开发声自己“被高仿”，希望多一个了解真相的网友，就少一些受骗的人。
伴随着AI深度合成技术的成熟，门槛不断降低，AI深度合成产品和服务井喷式涌现，“AI换脸拟声”的逼真程度也到了让人难以辨别的程度。利用AI实施诈骗、侵权等违法犯罪的数量在快速增加。除了明星和公众人物，也有不少涉及普通人的AI犯罪曾引发关注。 这不仅侵害了相关主体合法权益，也破坏了健康的网络生态，干扰社会正常秩序，成为公共治理难题。“AI诈骗正在全国爆发”的词条一度登上热搜，一时讨论声四起。多地公安机关曾发布过相关提醒，司法机关也发布了多起利用AI实施犯罪的典型案例。
不断有法律界人士指出，AI生成内容的激增引发了人们对其透明度、真实性和误导性的关注和忧虑。充斥于各大网络平台的虚假AI生成内容，也成为滋生民事侵权乃至刑事犯罪的温床，影响了消费者与平台之间的信任关系，进而阻碍了人工智能产业的良性健康发展。
毫无疑问，人工智能领域应建立有效的法律框架。相关监管已经在路上了，9月国家网信办起草的《人工智能生成合成内容标识办法（征求意见稿）》对AI“专属水印”的要求更加细致，不仅规定文本、音频、图片、视频、虚拟场景中，提示用户的显式标识应出现的位置，还指出生成AI合成内容的文件元数据，应添加隐式标识，以记录文件的来源、属性、用途、版权等关键信息。这意味着今后AI生成内容一旦造假，溯源将更加清晰。此前，AI标识最大的困境在于，用的人不主动标、传播的平台不主动管，一出事就扯皮，相互推诿。此次意见稿的另一个亮点就是，相关主体的责任和义务更加明确，AI服务提供者、应用商店、平台网站、用户、主管部门均为责任主体，覆盖AI全生命周期。有法律界人士表示，此类“专属水印”相当于让“AI”公开和透明，是防范生成式人工智能应用风险的第一步。
可以肯定的是，让AI生成合成的内容无所遁形，对AI滥用的预防具有一定效果。不过，除了技术层面，仍需要更加细致完善的法律规范，应从主体资质、业务规则、法律后果等多个层面做出规制，多管齐下，才能更全面地规避人工智能技术带来的风险隐患，使之健康有序发展。
延展阅读
