AI伪造视频击穿企业信任底线，AIGC治理迫在眉睫
随着AIGC技术快速普及落地，AI深度伪造技术在赋能产业创新发展的同时，也滋生出产业化造谣抹黑乱象，频繁引发企业商誉危机与资本市场震荡，暴露了当前AI内容治理体系的短板，亟需构建多方协同的全链条监管体系，实现技术发展与安全治理并行。
iiMedia Research（艾媒咨询）发布的《2025-2026年中国AI漫剧行业趋势白皮书》显示，2022-2025年中国AIGC核心市场规模实现了跨越式增长，从11.5亿元跃升至805.8亿元，年均复合增长率高达312.27%，市场长期向好趋势显著。预计2026年将突破1600亿元，到2027年，市场规模预计可达2317.6亿元，增速虽有所放缓，但绝对增量依然可观，2028年市场规模有望达到2767.4亿元。
一、AI换脸造谣：酿成70亿市值蒸发惨案
艾媒网（iiMedia.cn）获悉，2026年6月22日起，一名自媒体从业者罗某某利用AI换脸、视频剪辑等技术，将东鹏饮料创始人林木勤与机车品牌创始人张雪的商务互动视频恶意篡改，炮制出“东鹏创始人拒喝自家产品”的虚假内容并在短视频平台传播。画面中，林木勤的面部被移植到他人身上，并配上“我平时不喝这个”等子虚乌有的台词。
来源：东鹏特饮
这条移花接木的视频迅速引爆舆论，公众对东鹏饮料的品牌信任急转直下，资本市场随即作出剧烈反应：6月22日至26日，东鹏饮料A股、H股双双下挫，一周内市值合计蒸发超70亿元人民币。直至6月27日，张雪发布原视频澄清，东鹏饮料公开声明并报案，舆情才出现反转。6月29日，深圳市公安局南山分局通报称，罗某某已被依法刑事拘留，案件正在进一步侦办中。至此，一场由AI技术引发的商誉危机终得平息，但其暴露的产业漏洞却远未弥合。
二、名企接连中招，AI虚假信息已呈产业链化
东鹏饮料并非孤例。近年来，从农夫山泉到娃哈哈，从食品到科技企业，针对知名品牌的AI造假舆情事件屡见不鲜。2024年，农夫山泉及其创始人钟睒睒曾遭遇系统性抹黑，大量捏造事实、凭空臆测的内容通过AI生成图文和视频扩散，企业不得不出面发布万字辟谣文章，并启动法律程序。而在刚刚过去的2026年上半年，AI造假手段已从简单的PS拼接升级为深度伪造，黑产链条分工明确：有人负责搜集企业素材，有人专攻模型生成，有人操控账号矩阵分发。
这类虚假内容往往掐头去尾、煽动情绪，在“眼见为实”的心理惯性下极易引爆社交网络，给企业声誉和经营带来难以估量的损失。被侵权企业虽可通过法律途径维权，但澄清声量往往难以匹敌谣言的传播速度，且损失的市值和用户信任难以完全挽回，凸显出AI时代信息环境脆弱性。
三、AIGC产业加速落地，繁荣与乱象并存
在AI造假事件刺痛市场神经的同时，AIGC行业正迎来前所未有的发展高潮。即将于7月17日启幕的2026世界人工智能大会，将聚焦模型、数据、AI Agent等前沿方向，超300款产品全球首发；珠海AIGC基地7月10日正式启用，打通订单、算力、人才三大资源池，助力一人公司创业者拥有“虚拟军团”；北京东城区刚刚举办“AIGCforFuture论坛”，揭牌产业联盟，力推AIGC与传统文化融合。据业界预测，国内2026-2030年仅AI算力硬件投资就将达2万亿元，AIGC、智能体、具身智能等五大核心赛道已成为资本密集涌入的方向。然而，产业急剧扩张的另一面是安全基座的薄弱。
目前，生成式内容的真假鉴别仍高度依赖平台审核和用户自身素养，技术对抗的手段升级远跟不上伪造技术的进化。大模型安全测评基准共建行动虽已启动，国家工业信息安全发展研究中心正牵头建设全维度评测体系，但从标准制定到落地执行仍有不短的路程。技术本无善恶，但当AI可以批量制造“有图有声的真相”时，产业若缺乏同步匹配的治理框架，繁荣图景便可能被乱象割裂。
四、治理亟需多方协同，系好AI发展的“安全带”
面对日益严峻的深度伪造挑战，单一环节的修补已难以奏效，必须构建覆盖事前预防、事中拦截、事后追溯的全链条治理体系。平台企业应利用AI反伪造技术，在内容上传阶段主动拦截高风险篡改视频，并建立快速核实的辟谣通道；监管部门需加快出台针对恶意AI造谣的专门司法解释，提高违法成本，对借助AI实施商业诽谤的行为予以严厉惩戒；行业层面，应鼓励成立AIGC内容安全联盟，制定白名单创作规范，推进数字水印、内容溯源等技术的普及应用。
资本市场投资者也应提升对“AI假消息”的辨识能力，避免因恐慌性抛售造成不必要的损失。正如世界人工智能大会将AI治理列为核心议题、多家机构着手共建安全测评基准所释放的信号，AIGC产业的长期价值释放，必须以信任为底座。东鹏饮料70亿市值蒸发的教训警示我们：在AI技术全速前行的轨道上，唯有同步装好“刹车”和“护栏”，数字化时代的红利才能真正惠及每一个市场主体，而不会沦为少数作恶者的牟利工具。
技术迭代永远走在前沿，但治理不能滞后于创新。当前AI造假已形成成熟黑产链条，破坏力直达品牌声誉与资本市场，单一的辟谣、追责已然治标不治本。唯有通过技术防控、行业规范、法律监管、公众辨识多方协同，补齐AI内容安全短板，为高速发展的AIGC产业筑牢信任根基，才能杜绝技术滥用乱象，让人工智能产业在规范有序的环境中健康长效发展。
