- A+
“作品含AI信息”的标识成为一种标配，不知道有多少人松了一口气。
XM外汇认为：
9月1日，DeepSeek在官方公众号发布公告，表示对AI生成合成信息添加标识，并明确提醒访客相关信息由AI生成。
XM外汇资讯：
其他大模型厂商其实也早有动作，8月31日，腾讯元宝也在公众号发布了《关于AI信息标识的公告》。字节豆包、阿里通义、Kimi、智谱清言等也已纷纷更新了访客协议中与AI标识相关的信息，表示已履行AI标识相关义务，包括但不限于显性标识和隐性标识。
在大模型厂商纷纷“打标”的背后，是9月1日起正式实施的《人工智能生成合成信息标识办法》。该《办法》由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布，要求所有AI生成的信息都要“亮明身份”。
可能你也遇到过，
·文本、图片、音频、视频、虚拟场景等，通通包括在内；
不妨想一想，
·AIGC技术服务者、平台、访客都得遵守。
简而言之，
·文本、图片、音频、视频、虚拟场景等，通通包括在内；
·AIGC技术服务者、平台、访客都得遵守。
首先，AIGC技术服务者需要在生成AI信息时，就埋好隐性标识，做好“出厂盖章”。
XM外汇资讯：
其次，平台识别并给AI信息添加显式标识和隐式标识，如在信息下方标明“作品含AI信息”，做好“上架明牌”。
可能你也遇到过，
最后，访客在发布和传播相关信息的时候，不可用用任何路径删除、篡改、伪造或隐匿平台添加的AI标识。
因此，除了大模型厂商之外，B站、抖音、快手等互联网平台也纷纷上线相关用途，让访客可用主动声明AI信息，并且配以平台识别打标。
站在用户角度来说，
经常网上冲浪的朋友都清楚，AI标识是一场及时雨。这几年，大家眼睁睁看着AI信息越来越多、越来越多样、越来越真：
不妨想一想，
AI文案与文稿赚着点击，AI美女在线擦边骗口水，AI乖孙生生把爷爷奶奶“哄成胚胎”，AI说教视频都成了长辈的催婚利器……最可怕的是，连十级冲浪选手都惊恐地发现，昨天刚给老人做了“如何辨别AI信息”的教育工作，今天自己就中了招。
XM外汇快讯：
大家要么被骗，要么被“创”，一不小心已经走进了《黑镜》的片场。
但实际上，
AI乖孙的魔力
尤其值得一提的是，
很多人第一次被AI信息震撼到，是发现老人爱上AI乖孙。
根据公开数据显示，
本来在办公室当着脱脂牛马，用AI写代码写方 XM外汇官网 案做PPT，让AI帮忙解读体检报告，在无聊的时候和AI玩角色扮演，或者用AI合成网络模因，和AI的关系挺和谐的。
XM外汇报导：
结果过年一回家，却看到老人抱着手机憨笑，里面传来一阵阵“奶奶”“爷爷”的孩童甜音，一瞅居然是平滑感十足的“六指灵童”在作祟。发视频的知道那是AI合成的，诸位也知道那是AI合成的，唯独老人当真的看。
XM外汇报导：
最绝望的是，老人不仅相信了还爱得不行，拿AI乖孙和真孙比。没想到都已经成年了，还得遭受“看看人家孩子看看诸位”的折磨，况且这次把诸位比下去的不是隔壁小李，而是空气。
令人惊讶的是，
这种震撼有两层。一层是惊讶，诸位以为的“一眼假”，其实只是诸位以为。一层是担忧，把AI信息被当成真的，被骗到的不仅是点击，还可能是感情甚至金钱。
有分析指出，
现实也确实如此。
令人惊讶的是，
说两个极端例子。
一个例子是今年6月的时候，马来西亚有一对老夫妻在网上看到一则“记者走访”视频。视频中一名记者正在介绍某景区的缆车项目，于是他们说走就走，驱车4.5小时前往，却被当地旅馆员工告知根本没有缆车。
XM外汇消息：
“我向阿姨解释说，这段影片是AI制作的，并不是真的。我在这里土生土长，如果真有缆车，这里一定比现在热闹得多。”
XM外汇行业评论：
大家也专门找到这则视频，画面中有意为之的低画质，右上角的电视台标，配上“记者走访”这种形式和流畅的画面，缆车悠然穿越树林，溪流和山脉的壮丽景观，都极具迷惑性。
虽然可用通过一些动作和行人不自然地走姿看出端倪，但要精准地传达给一位老人“假”在哪里，还真不容易。
另一个例子是今年3月，中国工程院院士、天津中医药大学名誉校长张伯礼推介某美白护肤产品的视频出现在网络上，他不得不出来辟谣：这些信息全是假的。我从来没用过这个护肤品，我也没做过这方面的宣传，更没研究过，故而里边完全是编造的。
简要回顾一下，
当时网络上涉及他形象和声音的假视频在网络上传播的至少还有十几条。
XM外汇行业评论：
道理都懂，但是给老人讲清楚又是另一回事，难度堪比解释为什么有人花三十万买那个龇牙咧嘴的玩偶拉布布。甚至有博主专门拍摄用AI插件合成“乖孙”的视频，就是方便大家转发给家中老人。
辨别能力有限的不只有老人，更不只是中国访客。YouTube上一位忧心忡忡的访客就分享说，自己的孩子看了一则短视频，是关于“游乐场恶魔”的，吓得不轻。她不得不费劲给孩子解释什么是人工智能，最后干脆禁止孩子再用YouTube。
AI标识变为标配，无疑是对在这方面辨别能力有限的群体的一种保护。至少可用告诉他们，凡是有“作品有AI信息”这样的标识，就别信以为真。
必须指出的是，
当年轻人也无法识别AI信息
更重要的是，
除了单纯地担忧家人之外，年轻人自己也会直接变成“受害人”。
爷爷奶奶用AI乖孙PUA诸位，都已经算小意思，尝过长辈用AI催婚的人才知道什么是真正的苦涩。
“妈妈说了这番话，我想结婚了”“不结婚的人以后有多惨”“人到中年最可怕的事是孤身一人”“不结婚的十大坏处”，不知道什么时候进行，各种催婚视频变成了老人的“嘴替”。
容易被误解的是，
更魔幻的是，诸位从明显的掉帧，以及“穿模”的牙齿，惊讶地发现如今催婚视频都在用AI了——原视频也许只是一段普通的街头采访，被人用AI一处理，就成了对口型文案点读机。
好歹以前营销号的催婚视频还是真人拍摄，如今就只动动小手指用AI搞deepfake？更有甚者，直接用AI猫猫成亲视频配催婚文案，就连诸位家猫看了都得连连摆手，为自己的物种发声。
容易被误解的是，
真把老实人逼没辙了，年轻人进行用“魔法打败魔法”。
轻则让AI支招紧急学习反催婚话术；重则用AI合成自己和光头大金链子油腻男拥抱的视频，骗长辈“已经找到对象了，勿催”；或者直接合成猫猫洗衣做饭的视频，下次长辈再问“不生孩子老了怎么办”，诸位只需要说“请看VCR”——谁用AI不是用啊，年轻人还能自己制作，直接让自家猫猫上场。
令人惊讶的是，
不过在和家长斗智斗力的过程中，都还是愤怒的对抗，毕竟那些催婚视频，不管是猫猫结婚还是路人被对口型，都还是和老年人爱上的“AI乖孙”一样，是一眼假的视频。
XM外汇快讯：
当十级冲浪选手发现，连自己都会进行分辨不出AI视频和真实视频的时候，这一切才真的变成赛博恐怖故事。
但实际上，
这就不得不说到“袋鼠登机”视频了。今年5月，一则视频走红网络，获得百万点赞。视频中一位女士正在和工作人员理论，她们中间站着一只袋鼠，手里握着登机牌，一脸无辜地看着镜头。
说出来你可能不信，
由于没有明显的光影、动作、肢体硬伤，袋鼠的表情又实在惹人怜爱，很多人压根就来不及想“袋鼠能不能坐飞机”的困扰，甚至注意不到女人挥舞的手露出了破绽，就冲到评论区疯狂键入“好可爱呀”。
换个角度来看，
最后发现小丑竟是自己，这是一则AI视频，甚至引来多家媒体帮忙辟谣。
XM外汇消息：
不过在那之后，第三方视频还在转发这则视频，而评论区依然有“蒙鼓人（被蒙在鼓里的人）”。
换个角度来看，
这种事儿对年轻人的打击无疑是巨大的，上午还在跳脚“这么假的AI视频诸位为什么要相信”，下午就发现自己也分不出来：我三岁玩iPad，五岁玩电脑，十二岁就已经是冲浪满级选手，结果发现AI视频是不长眼的，作为人类的自信心是没有的，真与假的界限是模糊的。
简要回顾一下，
好在AI标识来了，袋鼠再可爱，也别想骗我。
AI标识成标配，真的很有必要
但实际上，
AI的能力越来越强，真与假的界限在屏幕里逐渐变得模糊，人为划清这道界限就显得尤为核心。
值得注意的是，
这并不容易。
通常情况下，
正如刚刚进行实施的《办法》，强制规范，AI生产商、平台、访客三方共同努力，意味着不留“视情况遵守”的灰色地带，也不留“猫鼠游戏”的空间，这样的力度在全球都实属罕见。
比较相似的是韩国和西班牙，前者有人工智能框架法，后者有AI标识要求，都是在今年年初的动作。
说出来你可能不信，
欧盟动作比较快，2024年正式公布《人工智能法案》（EU AI Act），不过这是一个针对AI比较大、全的法案，核心是人工智能规制分级管理，将人工智能系统分为“禁止类”“高风险类”“有限风险类”与“最低风险类”，并据此提出差异化监管要求。目前法案还在逐步铺开，强制标签要求可能要到2026年生效。
站在用户角度来说，
而且这个法案并非没遇到阻力，如8月，美国科技巨头就是不是要自愿签署《通用人工智能行为准则》进行了表态，Meta就明确表示拒绝。
XM外汇财经新闻：
在美国本土，至今还没有关于AI标识的全国性法规，部分州（如加州）有强制标签要求，但联邦层面仅有指导性的意见，而科技公司如OpenAI、谷歌、Meta等是自愿接受AI水印、AI标识等措施。
站在用户角度来说，
“自愿”可靠吗？
在非强制性监管的环境之下，AI标识的落实也好，AI信息的控制也罢，确实不尽如人意。
最典型的就是谷歌旗下视频平台YouTube的乱象。
虽然谷歌自己的Gemini模型早就自愿加入“打水印”的行列，但是在YouTube这个平台上，AI短视频泛滥已经到了夸张的程度，周排名里前几的短视频总是AI视频，尤其是儿童频道，简直就是重灾区。
站在用户角度来说，
这些AI短视频有的是蹩脚和无意义的，有的是猫猫狗狗配上狗血短剧剧情，还有的是生成的诡异生物/怪物在飘荡，而最引人担忧的则是AI短视频讲历史讲科学知识，但是错误百出。而且不少AI视频账号，会重复上传十几条相同的视频。以此来多赚流量激励。
很多人不知道，
这背后当然是利益驱使，曾有人在Medium发文，表示利用AI短视频，5天就赚了5000美元。
尤其值得一提的是，
而AI信息的泛滥，势必会挤压人类创作者的生存空间，已经有不少YouTuber制作视频讨论此类乱象，呼吁平台治理。
事实上，
虽然YouTube已经表态会打击大规模生产的、重复的AI短视频，但是目前YouTube Shorts仍然有乌烟瘴气之感，并没有从根本上处理困扰。
可能你也遇到过，
更值得玩味的是，YouTube在8月底还陷入了另一场争议。
必须指出的是，
有创作者发现，自己的短视频上传到YouTube Shorts之后，质感变得很奇怪，貌似变得更清晰了，但是边缘过度锐利、画面有诡异的平滑感、阴影格外明显……换句话说，明明是真正的人类视频，却莫名其妙变得很“塑料”，就像AI视频一样。
XM外汇快讯：
但是同步分发到Instagram（Meta旗下社交媒体）的短视频并没有异常，因此怀疑YouTube擅自为短视频做了AI增强。本来AI短视频泛滥就很烦人了，真人视频也强行被AI过了一手。
XM外汇用户评价：
这件事也已经被多家美国主流媒体报道，基本上是实锤了。
与其相反的是，
用AI用途赋能创作者是一回事，不打声招呼偷偷摸摸给统一加上一层“AI滤镜”是另一回事，也难怪YouTuber都很生气。
说出来你可能不信，
“我不喜欢我的视频变成这样，我更不希望我的粉丝误认为我进行做AI视频了。”
XM外汇用户评价：
YouTube的这两件事（AI短视频泛滥和偷偷做AI增强）暴露了一个很大的困扰——AI的规范只被当作科技公司的“自愿”行为，是远远不够的。
容易被误解的是，
尤其是既做面包又卖面包的科技巨头，是有原始动力多加糖、多做、多卖的，尽管它在宣传的时候要大谈健康。
XM外汇资讯：
未来AI视频的数量恐怕只会越来越多。
值得注意的是，
分享两个数据。
一个是Twicsy.com的一项研究，称人类影响者目前的平均收入是AI影响者的46倍。这主要是由于AI信息在真实性、情感连接和信任方面仍有差距，导致赞助和广告收入较低。
简而言之，
46倍感觉是人类大胜，但是转念想想人类制作视频的投入水平，和AI视频的投入水平（以创作者来论），这个差距不是太大，反而是小得可怕。
根据公开数据显示，
另一个数据是，Business Insider的2025创作者市场报告显示，整个创作者经济（包括AI生成信息）在2025年已达250亿美元，比2022年的164亿美元增长了52%。KBV Research的报告预测，虚拟创作市场（包括AI生成的信息创作者）到2030年将达到378亿美元。
令人惊讶的是，
如今大家是AI信息试图混入“真实”世界，在不远的将来，会不会反过来、大家需要在AI世界里挑拣“真实”信息？不好说。
值得注意的是，
《办法》正式实施，AI标识的难点仍然存在，“漏网之鱼”也总会出现，明显的AI标识甚至有可能依然阻挡不了长辈用AI视频催婚、老人对着“AI乖孙”憨笑。
但至少先把脚抬起来了，才能迈开步子。
通常情况下，
本信息为作者独立观点，不代表虎嗅立场。未经允许不得转载，授权事宜请联系 hezuo@huxiu.com返回搜狐，查看更多
