随着AI生成技术的普及，只需简单输入文字指令，就能生成以假乱真的图像、视频，这不仅让谣言传播门槛大幅降低，更让不少人在“猎奇”“博流量”的驱使下，触碰法律与道德的红线。近日，山东威海网安部门查获两起通过AI编造、传播网络谣言的违法行为。

案例一

近日，威海网民张某为提升账号关注度，博取流量、牟取私利，使用某AI工具编造了“在监狱直播带货”图片的谣言信息，并发布在某互联网平台，引发大量网民关注和讨论，扰乱公共秩序。

案例二

近日，在广东台风期间，威海网民迟某为博取眼球、吸引流量，编造“广东阳江两所教学楼因台风受损”虚假灾情视频画面，在某短视频平台发布，误导大量网民关注，严重扰乱社会公共秩序，引发恐慌，造成了不良社会影响。

公安机关依法给予张某和迟某行政处罚。

法律责任

根据《中华人民共和国治安管理处罚法》第二十五条的规定，散布谣言，谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的，处以五日以上十日以下拘留，可以并处五百元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款。

风险隐患

通过类似案件看，一些AI谣言的背后已形成分工明确的灰色产业链。其具备“低成本量产”的特性，有资料显示通过AI单日最高可生成4000至7000篇虚假文章，成本仅为传统造谣的1%。AI谣言带来的风险隐患确实值得高度警惕，其风险隐患主要体现在：

一是与传统谣言相比，AI谣言因其技术特性，危害性呈指数级放大。

二是具有高仿真与强迷惑性，生成的文字、图片、音视频内容逼真，普通网民难以分辨。

三是进化与迭代能力强，AI谣言甚至能针对辟谣信息快速生成新版本进行反驳或迭代，形成“打地鼠”式的动态对抗，让治理防不胜防。

如何预防

作为信息接收者，可以通过以下方式识别潜在的AI谣言：

查源头：警惕那些没有明确作者、来源模糊或伪装成“网友投稿”“内部消息”的内容。可靠的信息通常有正规的新闻机构或官方信源背书。

看细节：对于图片和视频，仔细观察是否存在AI生成的典型痕迹，例如人物手指数量异常、光影效果不自然、视频口型与声音不同步或背景模糊扭曲等。

验逻辑：判断内容是否存在明显的事实错误或逻辑矛盾，比如时间线错乱（用未来的数据描述过去的事件）或地理信息错误。

用工具：善用权威辟谣平台进行查证，可以关注官方机构发布的相关警示信息。

警方提示

网络不是法外之地！为博流量无下限，恶意AI不可取！公安机关严厉打击恶意编造传播网络谣言的行为，请广大网民自觉遵守法律法规，不造谣、不信谣、不传谣，积极向公安机关举报各类网络谣言和传播虚假信息的违法行为，携手营造清朗网络空间。

来源：“公安部网安局”微信公众号