AI“造黄”曝光：行业呼唤技术向善

　　在软件里上传一张照片、输入几句话就能生成“让自己满意的大尺度视频”、仅需9.9元就能购买“日入5位数”的AI制作美女视频教程，号称“全网最强大尺度”、通过可规避网络监管的“关键词”指挥AI生成违规内容……一个个触目惊心的场景出现在一条AI黑色产业链里。

　　日前，央视曝光了AI非法“造黄”黑产的隐秘真相。部分不法商家、网络博主售卖AI“造黄”“秘籍”，他们以传授人工智能生成色情内容的方法非法牟利，甚至形成了分工明确、规模化运营的完整产业链。产业链各环节门槛极低、利润丰厚，且反监管手段隐蔽，给治理工作带来极大挑战。

来源：央视财经

　　当AI技术沦为“造黄”工具，这条黑色产业链的隐秘运作的背后，是技术异化的悲哀，更是多方责任的缺失。AI行业的未来，要走向何方？

　　揭秘黑产：AI“造黄”已成工业化流水线

　　低成本、低技术门槛的AI“造黄”令人震惊：无需掌握任何专业技术，无需投入高额成本，只需花9.9元在社交平台、电商小程序购买一份简易教程，再搭配几组定制化“提示词”，就能借助普通AI绘画、视频生成应用，批量产出色情擦边内容。这条黑色产业链分工明确、环环相扣，已经形成“教程售卖—提示词交易—境外软件引流”的标准化盈利模式。

　　在产业链上游，不法分子在互联网平台兜售AI“造黄”教程，标题打着“AI制作美女视频”“大尺度内容手搓教程”“日入5位数”等噱头，引导用户通过境外软件、本地离线部署等方式规避监管，教用户利用AI生成色情擦边内容。教程售价从几十元到上百元不等。

来源：央视财经

　　产业链中游聚焦“提示词”的交易与滥用。在“万象小店”“楠楠素材库”等平台，仅需9.9元就能购买到打包好的提示词，将这些提示词输入多款主流AI应用，仅需几分钟就能生成半裸、色情擦边等违规内容。更有甚者通过将敏感词汇翻译成英文等形式，规避平台关键词的审核。

　　产业链下游则聚焦境外涉黄AI聊天软件的兜售与引流。一些境外软件尺度极大，充斥着色情内容，无法从国内应用市场下载，不法分子便通过社交媒体、短视频平台发布“可开车、无限制词”等诱导性信息，提供灰色下载通道、邀请码，并通过老用户拉新返利等方式扩大传播，吸引大量年轻人乃至未成年人使用。

　　AI“造黄”滋生，谁之过？

　　AI“造黄”黑产的泛滥，是技术门槛降低、利益驱动、监管滞后、平台失职等多重因素叠加的结果。

　　技术门槛降低：生成式AI的普及，打破了“造黄”的技术壁垒，让普通人也能轻松“入局”。iiMedia Research（艾媒咨询）发布的《2024-2025年中国AI大模型市场现状及发展趋势研究报告》显示，2025年中国AI大模型市场规模达495.39亿元，预计2026年将突破700亿元，行业正处在爆发式增长的风口，各类AI应用操作越来越简单——不用懂编程、不用会设计，记几组提示词，就能生成违规内容。再加上AI模型开源化，不法分子能免费拿到底层技术，不用投入高额研发成本，就能搭建自己的“造黄工具”，违法门槛直接被拉到最低。

　　平台审核机制缺位：多款AI应用的审核机制存在漏洞，成了黑产蔓延的“帮凶”。目前国内多数AI平台的审核，难以识别隐晦提示词、英文提示词、隐喻表述，而且不法分子懂得钻灰色地带的空子——换个话术、改个表述，审核系统就“失灵”了，平台成为被动的一方。

　　不法分子持续游走于规则盲区：伴随着AI生成式内容衍生出的新业态、新玩法，灰色提示词流通、境外违规应用传播等违法行为同步涌现，成为AI“造黄”黑产难以根治的核心痛点。事实上，相关管理政策已经陆续出台，明令禁止AI生成色情内容，但仍有部分不法分子铤而走险，漠视道德伦理和规则。

来源：网信中国微信公众号

　　警惕！AI异化渗透日常生活

　　此次央视曝光的AI“造黄”只是AI异化的表现形式之一，事实上，AI异化已呈现多元化、规模化趋势，各类异化行为渗透进日常生活中，对社会秩序、公民权益以及行业发展造成危害。

　　AI造谣与虚假信息传播是最常见的异化形式。2024年，某MCN机构在网络发布数条不实信息，其中包含利用AI制作的虚假灾情的文字和图片，迅速在多个平台传播，经查实为不法分子利用AI生成虚假信息引流、博取关注；另有不法分子利用AI生成名人虚假言论、企业负面信息，恶意诋毁他人、扰乱市场秩序。

来源：央视新闻

　　AI诈骗是另一类突出的异化行为，不法分子利用AI换脸、变声技术，仿冒亲友、领导、企业客服等身份实施诈骗，手段隐蔽、迷惑性强，近年来案发率持续上升。除此之外，AI侵权行为日益突出，部分AI企业在模型训练中，未经授权使用他人数据、作品，涉嫌数据侵权……这些异化行为与AI“造黄”本质一致，都是技术滥用的表现。

　　AI行业的机遇：应用场景持续拓宽，产业价值持续释放

　　AI“造黄”产业链的曝光，只是行业发展中的一个负面的缩影。iiMedia Research（艾媒咨询）数据显示，2022年至2025年间，中国AIGC核心市场规模实现了跨越式增长——从2022年的11.5亿元跃升至2025年的805.8亿元，年均复合增长率高达312.27%，成为中国数字经济发展的重要引擎。

　　随着AI的可操作性提高，越来越多的创业者参与到AI产业中，极大地丰富了行业生态。自OpenAI发布ChatGPT以来，大模型产业掀起全球的关注。AI大模型因其强大的数据处理能力和卓越的性能表现，被视为推动产业升级和经济转型的重要引擎。

　　近年来，中国积极布局、大力支持AI大模型发展，相关科技公司积极研发国产大模型，同时不断涌现出大量大模型科技公司，国产大模型竞争力持续提升。例如豆包、文心一言、通义千问等主流国产模型，已实现文本、图像、音频、视频的多模态协同生成，在生成精准度、响应速度、行业适配性上显著提升。

　　随着技术的不断成熟和应用场景的不断拓展，AI大模型正逐渐渗透到文娱、金融、教育、电商等各行各业，成为推动社会进步和经济发展的新动力。iiMedia Research（艾媒咨询）数据显示，39.79%的中国消费者期待AI大模型应用于文娱传媒，35.89%期待应用于医疗，35.89%期待应用于网络安全，AI大模型应用场景持续拓宽，产业价值持续释放。

　　科技向善，别让AI异化拖垮行业的未来

　　央视曝光的AI“造黄”黑产，是AI技术异化的缩影，更是AI行业的深刻警示。当前AI行业正处于爆发式发展关键期，机遇与挑战并存，技术创新红利值得期待，技术滥用风险更需要警惕。当AI沦为不法分子牟利工具，不仅污染网络空间、侵犯公民权益，更会阻碍行业健康发展。

　　AI行业的健康发展，离不开全链条参与者的伦理自觉与责任担当。尤其是AI从业者，更应秉持“科技向善”的核心理念，不能只追求技术迭代与商业利益，更要坚守法律与伦理底线。技术的价值在于服务人类、守护文明，而不是沦为滋生犯罪的温床。

　　技术的价值，在于赋能美好、守护文明，而非滋生罪恶。AI“造黄”黑产的治理，从来不是单一主体的责任，而是需要监管部门、AI企业、平台方、社会公众协同发力、形成合力。艾媒咨询分析师表示，责任应遵循“谁发起谁主责、谁服务谁同责、谁运营谁担责”的原则。既要用法律利剑斩断黑产链条，也要用技术手段筑牢安全防线，更要用伦理共识引导技术向善。

　　唯有如此，才能让AI技术摆脱“恶用”的阴影，回归创新本质，在赋能产业升级、便利日常生活的同时，守护好网络空间的清朗与文明，让技术之光照亮向善之路，推动AI产业实现健康、可持续发展。