随着AI生成技术的普及，只需简单输入文字指令就能生成以假乱真的图像和视频。这不仅让谣言传播变得更容易，还促使一些人为了博取流量或追求刺激而触碰法律与道德的红线。最近，山东威海网安部门查获了两起通过AI编造并传播网络谣言的违法行为。
其中一起案例中，威海网民张某为提升账号关注度，使用某AI工具编造了一张“在监狱直播带货”的图片，并发布在一个『互联网』平台上，引发大量网民关注和讨论，扰乱了公共秩序。另一起案例发生在广东台风期间，威海网民迟某编造了一段“广东阳江两所教学楼因台风受损”的虚假灾情视频，在短视频平台发布后误导了许多网民，严重扰乱了社会公共秩序，引发了恐慌，造成了不良的社会影响。
公安机关依法对张某和迟某进行了行政处罚。根据《中华人民共和国治安管理处罚法》第二十五条的规定，散布谣言、谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的行为将受到五日以上十日以下拘留，并可处五百元以下罚款；情节较轻者，处五日以下拘留或五百元以下罚款。
类似案件背后往往存在分工明确的灰色产业链。AI谣言具有低成本量产的特点，单日最高可生成4000至7000篇虚假文章，成本仅为传统造谣方式的1%。这种技术特性使得AI谣言的危害性呈指数级放大，其高仿真性和强迷惑性使普通网民难以分辨真伪。此外，AI谣言能够快速进化和迭代，甚至针对辟谣信息迅速生成新的版本进行反驳，形成动态对抗，给治理带来了极大挑战。
作为信息接收者，可以通过以下方式识别潜在的AI谣言：警惕那些没有明确作者、来源模糊或伪装成“网友投稿”、“内部消息”的内容；对于图片和视频，仔细观察是否存在人物手指数量异常、光影效果不自然等典型痕迹；判断内容是否存在明显的事实错误或逻辑矛盾；善用权威辟谣平台进行查证，同时可以关注公安部网安局发布的相关警示信息。
网络不是法外之地。为博流量无下限的行为不可取，公安机关严厉打击恶意编造传播网络谣言的行为。广大网民应自觉遵守法律法规，不造谣、不信谣、不传谣，积极向公安机关举报各类网络谣言和传播虚假信息的违法行为，共同营造清朗的网络空间。
