AI账号成起号新套路,多手段绕过“AI打标”背后有哪些隐患

AI账号成起号新套路,多手段绕过“AI打标”背后有哪些隐患

随着人工智能技术的普及,人工智能生成内容技术也就是AIGC技术正在改变社交媒体生态。有了创意,它能帮你生成文字;有了文字,它还能接着生成图片,进而做出视频。但是,本来是帮助提升创作效率的工具,却被一些人拿来造假起号,通过AI批量生产虚假内容来积累粉丝。

记者调查发现,目前多个社交平台上都出现大量“AI起号秘籍”相关内容,这些AI生成内容多以俊男靓女、育儿百科、健康养生为主,大都低俗猎奇。有些AI生成的人物形象能做到以假乱真,还有人传授绕过平台“AI打标”的经验。

一旦起号成功,这些账号就会隐藏AI引流内容,开始带货、卖课。有的账号还被明码标价放到账号交易网站上,形成了一条“起号、转型、转卖”的灰色产业链。在这背后有哪些不容忽视的隐患?

一张外国面孔,用流利的中国话科普育儿知识,这样的视频你会多看两眼吗?某育儿短视频账号上,大量类似内容打着“外国幼儿教育专家”旗号输出观点。但是这看似专业的视频里有不少说法都极端绝对,暗藏误导风险。

实际上,这些所谓“外国专家”是AI生成的虚拟形象。在一堂AI数字人视频教学课程中,这个育儿账号是导师口中的成功起号案例:

导师:我们就是做的这种展现的形式,一个人物是AI数字人、虚拟人,不是真人,但是很像真人。不仅嘴动头动,身体也在动。这个账号,我们团队的小伙伴已经做到了39万粉丝,卖货21万的战绩。

打造一个优质自媒体账号并非易事,从创意到文案脚本再到拍摄制作,每一个作品都需要创作者亲力亲为,通常会耗费大量时间。

现在,各大社交平台上出现了大量“AI起号”相关分享,宣称零门槛、易操作、涨粉快、可变现。

记者调查发现,这些起号教程教授的思路基本一致:仅需借助两三个AI工具,按“文生图、图生图、图生视频”的标准化流程,几分钟就能制作一段时长五秒的美女跳舞视频,这些视频中虚拟人动作虽然略有僵硬,但形象逼真。一位从业者表示,他的课程499元,内容包含从账号搭建、视频制作到内容变现的全流程一对一辅导。

一位主打“颜值博主人设”的博主告诉记者,自己选用了一张相貌平平的男生照片,AI工具在此基础上生成了一张高颜值男生照片。对比前后照片,人物脸型发型、五官比例、皮肤质感都有了较大改变,衣着和环境也有一些改变,但记者在该内容评论区观察发现,多数网友并未察觉这是AI生成的虚拟形象。

目前,各平台已普遍升级AI内容识别系统,要求对AI生成作品进行显著标注,这位博主告诉记者,自己花了900元学费学习AI起号技术,主要就是为了购买老师在AI工具中预配置的镜像文件——用这些镜像参数一键生成的虚拟人形象可以以假乱真,最大限度规避平台的AI内容强制标注机制。

记者发现,如今不少AI虚拟人创作者为避免作品被平台限流,会在发布时主动标注内容由AI生成。但各平台也有一部分未主动标注的作品没有被系统识别出来。有从业者坦言,随着各平台监测升级,“不标注等于高风险”:

从业者:保证不被系统检测出就是没法保证,我们只是说通过自己的一些维度的东西去减少被系统评为AI作品。因为目前来讲人物视频动起来的话,就是它篇幅(幅度)不能太大了,一大的话就很容易出现问题。假如突然哪一天被系统识别出来,让你人脸识别,你识别不出来怎么办,你这号不是废了吗?

记者调查了解到,AI账号起号成功后大都会隐藏此前引流内容,改头换面成为带货账号;有的顺势打出“AI起号实战”噱头,将自身包装成“成功案例”售卖起号课程;还有一部分账号被明码标价进行售卖。

实际上,在AI的加持下,起号的成本和门槛被降低,大量此类账号进入了账号交易市场。某账号交易网站客服告诉记者,他们网站有不少可供选择的AI起号账号,价格相对于其他类型账号更加便宜。

实际上,多数社交平台明确禁止账号转卖。以记者在网站上咨询的抖音账号为例,抖音平台在其服务协议和相关规则中就规定,抖音账号仅限本人使用,禁止以任何形式赠予、借用、出租、转让、售卖或以其他方式许可他人使用该账号。

对此,中国政法大学传播法研究中心副主任朱巍表示:转让账号法律风险是非常高的,这个账号以前可能有一些违法违规的情况,这账号以前有没有销售产品,一旦出现问题要承担相关的责任。

当前,人工智能技术给人们生产生活带来便利的同时,也带来不少风险挑战。为了促进人工智能健康发展,规范人工智能生成合成内容标识,近日,四部门联合发布《人工智能生成合成内容标识办法》,要求人工智能生成合成内容标识包括显式标识和隐式标识。新规自2025年9月1日起施行。朱巍表示,新规正式落地后,此类乱象将得到遏制。

朱巍:显式标识就是那些被编辑的音视频、文档等等,带水印的,带有明确提示的。那还有一种情况,就是第三方平台生成的东西,有一些隐式标识。意味着什么呢?在肉眼上看不到它有任何标识,但是如果你放到像抖音、快手这样的平台上,在人工智能审核的时候,它会发现你生成的这个内容里面有这个隐式的标识。他以后这种再起号的时候,即便你做得再好,强制性的标记也会存在,很难做到以假乱真了。

特别声明:该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

波斯坦纯植物染发,真的足够安全吗?(波斯坦植物染发可靠吗)

这种先进的技术和产品科学的配比,既保留了植物本身的天然色素与活性营养,又让染发、护发、强根固发的功效形成合力——着色时温和包裹发丝,不破坏毛鳞片;养护时深层渗透,为发丝与头皮补充营养;长期使用则能改善头发的…

波斯坦纯植物染发,真的足够安全吗?(波斯坦植物染发可靠吗)

解决Xbox Game Pass PC版开通难题的有效方法(解决的拼音)

由于PGP服务的服务器分布在海外,国内用户在激活服务时容易受到网络不稳定、延迟高或频繁掉线等问题困扰。 虽然PGP开通失败令人沮丧,但通过改善网络环境、核查账号与支付信息,以及维护客户端的健康状态,大部分问…

解决Xbox Game Pass PC版开通难题的有效方法(解决的拼音)

视频号作品怎么保存到相册?(视频号作品怎么隐藏)

视频号作品怎么保存到相册?(视频号作品怎么隐藏)

有望应用于高端乘用车领域,全固态电池产业化进程提速

固态电池被视为全球动力电池下一代技术竞争的焦点。7月以来,多家企业披露了其在固态电池领域的最新进展,产业化进程明显提速。“从去年氧化物与硫化物的技术路线之争,到今年聚焦中试线建设进展,预计明年随着相关政策落地…

有望应用于高端乘用车领域,全固态电池产业化进程提速

2025年12月26-28第四届深城成人用品博览会:汇聚全球,赋能健康生活(2025年12.25)

主论坛上,中国生殖健康协会发布了《2024成人健康消费白皮书》,数据显示国内市场规模已突破1200亿元,其中智能硬件品类年增长率达67%。"展会期间同步上线的"云展会"平台吸引了超50万

2025年12月26-28第四届深城成人用品博览会:汇聚全球,赋能健康生活(2025年12.25)