2024-11-14 公安部网安局|听说过AI造谣吗？
来源：公安部网安局
随着人工智能(AI)技术的发展，AI在文本生成、图片创作等方面有着广泛应用。
输入几个关键词即www.czybx.com可快速生成一张画或一篇文章，一些网民为博眼球、蹭热度将AI技术用以编“伪消息”、造“假新闻”，以此来获得网民关注和点赞量，进而实现流量变现。
今天，我们就来一起学习，面对网上疑似利用AI造谣时，如何增强“免疫力”。
AI网络谣言案例
2024年6月，网络平台上的一条“广东省五华县华阳镇一70多www.czybx.com岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”的短视频在互联网平台传播，引发大量网民关注、讨论。公安网安部门迅速开展调查，发现该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述，这段长达几分钟、声色并茂的视频全是由AI合成的。目前，公安机关已依法对任某追究法律责任。
2024年1月，广西东兴市骆某某为博取流量，使用AI软件自动编辑抗洪、救灾视频，捏造了新疆乌什县发生地震的虚假视频信息，造成该谣言信息在互联网平台大量传播。目前，公安机关已依法对骆某某追究法律责任。
2024年5月，河南一网民在某平台发布《一场惊心动魄的“钞票大战”巴中市警民对峙引发轰动谁将成为胜利者》的谣言文章，引发大量网民关注、讨论。经查，该涉谣文章由AI系统生成并发布，相关言论及照片均为不实信息。目前，公安机关已依法对造谣人员追究法律责任。
AI网络谣言特征
定制化
生成式人工智能能够利用多类机器学习方法从数据中学习不同内容的生成特征以及主体的表达风格，只需要输入关键词，AI软件可在网络上抓取素材生成文本，形成定制化的文章、新闻、报告等信息。
门槛低
相比此前造谣者单纯靠人工捏造、散布谣言这一略显“原始”的方式，现在利用AI造谣者只需在AI工具输入关键词即可“一键生成”可以假乱真的文章、图片。
识别难
AI生成的虚假信息在形式上非常逼真，//www.czybx.com往往新闻要素齐全、内容完整，甚至可能包含图像和视频，这使得公众难以辨别真伪，这种伪装性和欺骗性让谣言更加具有迷惑性。
破坏大
利用AI工具制造谣言能生成极为逼真的图片、音视频，颠覆了“有图有真相”的常规认知，蛊惑性极强，短时间内就能快速传播，易引发社会恐慌，扰乱社会公共白熊资讯网秩序。
网络谣言危害
泄露敏感数据
AI对话、文字创作等AI工具可收集并存储用户信息，造成个人隐私数据泄露，甚至可能从一些涉密敏感人员数据中推断出敏感信息。
损害他人名誉
网络谣言往往针对特定个人或群体，散布虚假信息，恶www.czybx.com意攻击和诋毁他们的名誉和利益。这可能导致受害者遭受经济损失、社会压力和精神创伤。
误导公众认知
网络谣言往往利用人们的认知和心理弱点，制造虚假信息，误导公众对特定事件或人物的认知和评价。这可能导致公众价值观的混乱。
扰乱公共秩序
网络谣言可能引发公众恐慌和不安，破坏社会信任和稳定。虚假信息的传播可能引发群体性事件，甚至导致社会动荡。
如何增强“免疫力”
1
保持警惕。仔细分析信息的逻辑性，若存在明显漏洞、矛盾或与常理不符的地方，很可能是虚假信息。比如，一些谣言中事件的发展过程不符合常理，或者数据存在不合理的夸张等。
2
多方验证。不要仅仅依赖单一的信息来源，应从多个权威渠道获取信息进行对比。对于一些热点事件，可以检索官方媒体的报道，以验证信息的真实性。
3
谨慎分享。在确定信息真实可靠之前，不要随意转发，以免无意中成为谣言传播的推手。
4
保护隐私。注意保护个人隐私，不随意泄露个人信息给不可信的网站或应用程序，防止个人信息被用于生成虚假内容。
素材│广西网警
内容版权声明：除非注明原创否则皆为转载，再次转载请注明出处。
相关文章
-
2024-12-21 花钱请人监督自己考研
封面新闻记者秦怡2025年全国硕士研究生招生考试今日开考。过去几个月，备战考研的年轻人兴起了一种“监督学习”的方式：花钱邀请监督员监督自己学习。学员和监督员之间往往是陌生网友，他们通过文字、视频等方...
2024-12-21 14:41:47花钱请人监督自己考研 -
2024-12-21 于东来直播员工午休打麻将
12月20日中午，于东来个人账号开播，带网友云逛胖东来办公区域，看员工午休活动，开播约27分钟，超过288万人次观看。在于东来的直播中，胖东来办公区域配有音响系统，员工有用餐、睡觉、娱乐区域，于东来跟...
2024-12-21 08:59:03于东来直播员工午休打麻将 -
2024-12-24 中方回应美签署涉华国防授权法案
12月24日，外交部发言人毛宁主持例行记者会。有记者问，当地时间12月23日，美国总统拜登将“2025财年国防授权法案”签署成法，其中包含涉华消极内容，中方对此有何评论？对此，毛宁表示，美方执意将夹带...
2024-12-24 15:20:46中方回应美签署涉华国防授权法案 -
2024-12-21 考研政治 难
政治考完了，我看着朋友圈千篇一律的说今年政治难，年年都说难，年年都说考不上高分，连肖老师都说今年可能是近十年最难的题了。所以不管怎么样，政治难也好，简单也好，并不影响最后的大局。下午开始的英语才能真正...
2024-12-21 12:10:37考研政治 难 -
-
-
2024-12-22 记者：马斯克搅局让美国会陷入混乱
在上周末举行的美国陆军-海军橄榄球赛上，埃隆·马斯克发布了一张球场上方巨型屏幕的照片，照片中四张脸清晰可见。当选总统唐纳德·特朗普、当选副总统JD万斯和马斯克都看着镜头。背景中，低头看去的是众议院...
2024-12-22 11:51:55记者：马斯克搅局让美国会陷入混乱 -
2024-12-21 医院回应产妇在家生子拒开出生证
近日，张先生向南都记者讲述了他的妻子在深圳市深汕特别合作区鹅埠村的分娩经历。...
2024-12-21 11:51:04医院回应产妇在家生子拒开出生证 -
2024-12-23 76岁老戏骨去世 曾出演《醉拳》
12月23号，香港娱乐圈再次传出悲痛消息，甘草演员“山怪”不幸因病去世，不过时间并不是最近。据吴育枢透露，山怪是在今年5月份去世的，之所以没有官宣，主要是因为尊重其家人。不过，“山怪”去世的消息早就在...
2024-12-23 23:50:2976岁老戏骨去世 曾出演《醉拳》 -
2024-12-18 17岁女孩一天5瓶可乐泡腐15颗牙
“都说可乐是‘快乐水’，但把它当水喝了1年后，我的牙齿开始杂色斑驳，出现多个米粒大小的龋洞，我都不敢笑了。”2个月前，17岁的汪蕾（化名）在武汉大学口腔医院就诊时得知自己的牙齿被可乐“泡腐”了15颗后...
2024-12-18 18:41:5717岁女孩一天5瓶可乐泡腐15颗牙