近日，知名女演员温峥嵘，在自己的抖音直播间中，自曝其带货形象，遭到了不法分子的ai盗脸直播。
她表示，自己曾在深夜刷手机时，赫然发现有多个直播间，正同时使用着自己的形象进行直播带货。而当她进入其中一个直播间，并发出“你是温峥嵘，我是谁？”的质问后，竟被对方瞬间拉黑。
平台回应：非抖音平台，但已处置万余条侵权视频
该事件迅速引发了多方的重视。11月6日晚，抖音集团副总裁李亮发文称，经核查，被曝光的“三个直播间同时开播”的案例，并非发生在抖音平台。
但他同时也承认，平台上确实也存在一些利用AI仿冒名人带货的短视频内容。
据抖音官方后续披露，平台通过专项治理，已处置下架了与温峥嵘相关的仿冒侵权视频1万余条，并对37个违规账号，予以了处罚。
AI伪造门槛降低，黑灰产猖獗
温峥嵘之所以会成为AI造假的目标，一方面是由于AI技术的进步，极大地降低了造假的门槛；另一方面，则是因为她本人就长期从事直播带货，为造假者提供了极其丰富的“素材”。
记者在某二手电商平台发现，提供人脸识别、代做视频、人脸信息提取等服务的商家，比比皆是，其售价甚至低至30元。
网络安全专家表示，近年来，利用AI换声、换-脸进行诈骗、造谣等违法犯罪行为，正呈现出显著的上升趋势。而生成式AI技术的开源开放，则使得不法分子利用AI的门槛和成本，都大大降低了。
攻防博弈持续，治理需多方协同
在AI治理领域，监管侧、平台侧与黑灰产之间的博弈，长期存在且日趋激烈。
以抖音平台为例，自10月份启动专项治理以来，已严厉处置了涉及侵权仿冒的达人账号1.1万个，处置了仿冒名人带货的商品6700余个。
专家指出，AI技术衍生的安全风险，是一个极其复杂的社会问题，需要法律法规、技术手段、平台治理等多方面的协同努力。
而在技术层面，生成与鉴伪之间的对抗，就像是一场永无终点的“猫鼠游戏”，需要持续不断的长期投入和迭代更新。
