近年来，生成式人工智能技术得到广泛应用，不仅给人们带来了便利，也为造谣者提供了可乘之机。近期，不少人工智能谣言在网络上广泛传播，误导公众，破坏网络环境。
在今年11月28日网友上传的一段视频中，一名模特穿着暴露，在展示的汽车旁边做出猥亵手势。当天，车企并没有确定车型来推广该车，所以车企选择了报警。
12月10日，广州警方通报：“车展不雅视频”事件：李某利用人工智能生成虚假视频展示个人技术，被拘留10天。
在珠穆朗玛峰上安装电梯、在长城上安装瓷砖、在黄河上安装玻璃护栏是近年来网络上常见的谣言。然而，最近，安装电梯的视频互联网上珠穆朗玛峰的作者依靠人工智能一代的工具使其变得更加复杂，并且再次流行起来。
虽然内容不实，但由于流传甚广，官方立即予以否认。西藏有关部门表示，目前珠穆朗玛峰没有安装电梯的计划，网上发布的照片、文字和视频都是人工智能生成的虚假信息。一些营销账号利用人工智能制作西藏各打卡景点的虚假照片、文字和视频，利用虚假萨利塔吸引流量，并提醒网友不要轻信上述谣言。
显然，所有人工智能生成的内容都必须“清晰可辨”
上述人工智能生成的谣言视频具有“以假乱真”的效果，并且在发布和传播过程中并未打上人工智能生成的标识。结果就是让网友产生了一种错觉，以为他们是真实的。
事实上，开始今年9月1日，《人工智能生成合成内容标注办法》正式实施，明确所有文字、图像、视频等内容必须“明确标识自己”，并带有人工智能生成标识。基本上，人工智能生成的视频或图像和文本标注问题涉及三个主题：AI生成工具、发布信息和发布信息。每个链接都必须标记。
如何“标记”AI生成的标志？台记者主要介绍
总台记者还展示了AI生成标识的注释。
央视记者崔世杰：我给AI工具一个提示，要求它用雪山、湖泊和老虎创作一幅画面。 AI提供的图片是这样的。该图像是人工智能生成的典型图像。 AI标志在哪里？ AI生成的文字写在图像的左上角。如果它被下载到手机，标志在右下角。
信息发布者如何在发布的信息中添加人工智能生成的徽标？以视频账号为例。打开发布的信息，找到上方a箭头标记，点击，找到视频注释选项，点击。这里有很多选项，内容是AI制作，内容是虚构情节，点击AI制作。如果你再次观看视频，底部会出现一行文字。作者提醒，内容是利用AI技术创建的。
为了吸引眼球，有人将AI生成的标识去掉二次处理，发布到平台上。这时，平台作为谣言传播的最后把关人，必须得到认可和贴上标签。大家在看短视频的时候应该看到过这样的文字。视频下方文字内容可能会使用AI图像编辑技术，请注意甄别。这行文字是added 平台识别判断后ga。
平台如何检测人工智能生成的内容？鱼为什么会漏网呢？
法律法规已经到位，技术上也标注了提醒，为什么这样的谣言视频仍然出现在网络平台上？记者走访了视频平台和AI世代研究团队，看看为何一些AI世代传闻会在网络上流传，误导网友。
相关数据显示，短视频平台每天面临数亿网民上传的内容。
特定平台生态运营经理 陈永跃：目前，平台采用机器分析和人工分析相结合的方式对AI生成的内容进行评估，并且还在不断加强识别能力。具体来说，该平台收集了样本，并利用这些AI能力训练了多个AIGC内容识别模型，以识别一段视频内容是否是AI制作的。
那么具体有哪些AI识别工具在判断任务是否是AI生成时要注意哪些方面？
中国计算机学会计算机安全委员会常务委员潘继明：第一个是文本的统计特征分析技术，寻找表明AI书写过于流畅、缺乏人情味的“机器指纹”。第二个是基于深度学习模型的检测技术，它可以识别特定算法生成中的缺陷，并分析像素和频域中的人工智能生成伪影，例如纹理重复或特定图案。第三是多模态融合检测技术，利用理解大模型的通用能力来捕获跨模态和高级语义缺陷。
不过，平台和专家也承认，当前AI工具的识别能力尚未完全准确。主要原因是AI生成工具不断老化，而AI生成工具不断老化认知工具总是在迎头赶上。这使得AI八卦信息被看不到是不可避免的。
陈永跃：但是，技术在不断发展，模型识别结果不一定完全准确。
潘继明：如今主流的主要检测技术主要面临三大难点。首先，存在理论上的瓶颈。随着AI模型能力的不断增强，其输出的统计特征也越来越接近人类高质量的作品。有一个结果是，理论上已经不能仅根据统计指标来区分，即概率分布重叠。其次，文本只需要简单的注释或替换同义词；图像需要压缩或截图以破坏水印或伪影，检测器无效。三是概括不够。检测器通常针对旧模型进行训练。面对新的我看不见的AI生成的模型，检测效果会大打折扣，导致检测始终处于“滞后”状态。
人工智能提供商、创造者和平台必须共同努力，防止人工智能滥用
专家表示，防止人工智能滥用，不仅要更新识别工具技术，还要加快建立“数字信任生态系统”。
陈永跃：人工智能滥用治理是一个系统工程。互联网黑灰产业也会为了利益而升级技术，技术对抗也会更多。因此，治理人工智能滥用仍需要人工智能服务提供商、创作者、内容分发平台和用户的共同努力。
潘继明：通过深化运用动态融合分析、动态对手训练技术、区块链证据追踪等多模式技术，结合内容识别法规等管理框架，行业统一标准、检测结果定义，共同实现从被动识别到主动验证，从本地识别到全球认证的识别和追踪解决方案。