2024-11-18 AI狂欢背后“污染”来袭

#人工智能##ai##互联网#

不知何时，被誉为新风口的AI和污染划上了等号，连新华社等中央媒体也开始向公众发出“硬币有两面的警示”。

打开问答网站，你很可能看到AI的“机言机语”，回答看似简洁凝练，却全无“营养”，看了约等于没看；打开社交平台，你很可能看到AI生成的虚假消息，看到AI“控制”着某名人大咖说着莫名其妙的话，www.czybx.com甚至可能看到以严谨著称的学术论文里出现让人啼笑皆非的AI痕迹……

当一些虚假的、无意义的“AI制造”污染了互联网的信息，现实世界会遭遇哪些改变？我们又该如何于这混沌中寻找光明？

你有没有看过《楚门的世界》？影片中，主人公楚门从一出生就被直播，他的世界犹如一个巨型影棚，身边的人和事都是设定好的，而他本人对此一无所知。

曾经，很多人以为“楚门的世界”是异想天开，但随着AI技术如火如荼，影片中的场景正在现实中渐渐显现。

一些MCN机构为引流牟利，用AI生成大量虚假新闻，导致网络谣言病毒式传播。

比如，今年初网上流传的“西安突发爆炸”谣言，从文本到图片都是AI生成，其幕后MCN机构通过AI最高峰一天能生成4000至7000篇假新闻，每天收入在1万元以上。

▲

违法人员利用AI技术博取流量 图源：央视新闻

清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示，

美国调查机构“新闻守卫”称，生成虚假文章的网站数量自2023年5月以来激增1000%以上，涉及15www.czybx.com种语言。

不止信息领域，AI污染对互联网空间的“反噬”已然扩散，小说、音乐、学术等诸多领域都免不了“机里机气”的场景。

▲

亚马逊上出现了大量AI生成的垃圾书籍 图源：网络

一本使用Chat GPT撰写的关于野生蘑菇烹饪的电子书，竟然建议读者用舌头品尝来识别蘑菇种类；Spotify上的AI翻唱乐队将流行歌曲翻唱并加入正常歌单，竟与真人艺术家的作品混在一起，获得了惊人的播放量和版税；顶尖高校学者在SCI发表的论文，用AI生成插图且错误百出，仅发表3天就www.czybx.com被撤稿……

人们担心的事情还是发生了——粗制滥造、假冒伪劣的“信息垃圾”肆意泛滥，我们正在被“AI污染”逐渐包围。

“AI污染”的破坏力是惊人的。

首当其冲就是颠覆“有图有真相”的传统认知。

在AI的帮助下，文字虚构、图片伪造、音频合成、视频换脸等等变得轻而易举，比如今年6月，“男子用AI伪造学生同事近7000张裸照”冲上热搜，骇人听闻。

由此造成虚假新闻、隐私泄露、网络诈骗、造谣网暴、操控舆论等一系列违法犯罪行为也大行其道。有数据显示，202www.czybx.com3年基于AI的深度伪造欺诈暴增3000%，严重危害社会安全稳定。

另一方面，“劣币驱逐良币”也愈演愈烈。

以某些小说平台为例，依靠AI每日“爆更”却行文逻辑不清、语言空洞，不仅让受众对网络内容质量失望，还会侵犯著作权和知识产权，打击原创作者的创作热情。

此外，AI快速编织“知识体系”的“超能力”，可能导致一些人盲目相信其输出的内容，同时增加“惰性”。

比如学生在AI帮助下完成作业和论文，广告从业者利用AI完成文案创作等等，当AI代写越来越普遍，其可能造成的辩证性思考能力被阉割的后果也必须引起重视。

▲

全球AI应用下载榜 来源：Sensor Tower

当然，AI污染并非单向攻击人类，它也同样反噬着AI行业自身的发展。一项研究表明，

简而言之，就是当AI生成的“信息垃圾”满屏飞，回流并循环，以后 AI 就缺乏数据训练开始自我消耗，那么被虚假劣质数据反复“喂养”的AI，也会很快退化成一个“智障”，AI产业的进化与可持续发展也必然无从谈起。

其实，我们也不必对“AI污染”谈之色变。

污染互联网的“锅”，本就不该全由AI来背。早在AI诞生之前，网络空间就充斥着各种垃圾，AI的使用只是提高了垃圾产量和生产效率，我们要做的，是尽快增强处理垃圾、治理污染的能力。

源头治理尤为重要，内容标识是其中一种重要的机制设计。可喜的是，

现在多个视频平台都有向视频上传者提供类似

的标识选项，针对疑似使用AI技术的内容，一些平台也会标识出“疑似AI生成”的提示。接下来，平台与内容提供者也更应对此积极落实，在标识、提醒内容是否为AI生成等方面更加严格。

筛查监管也必不可少。

比如“用魔法打败魔法”，通过开发更先进的技术工具来治理AI污染，健全更严格的内容审核机制，来识别和筛查AI生成的低质内容，从而提高信息准确度与安全性，为用户提供相对安全干净的网络环境。

再如，通过多部门治理共建安全防线，提升违法成本，通过网信“清朗”、公安“净网”等系列行动，对AI违法犯罪行为重拳打击，营造法治环境，净化网络空间。

当然，公众也要积极锻造“火眼金睛”之能。一方面，我们要保持理性，不被AI污染左右独立思考，增强对互联网信息的防范和识别，在内容获取上“去粗取精”“去伪存真”；另一方面，相关部门也应紧跟AI技术发展趋势，创新宣传教育方式，引导网民增强法律意识和辨别能力，共同营造安全、健康、有序的信息环境。

内容版权声明：除非注明原创否则皆为转载，再次转载请注明出处。

文章标题: 2024-11-18 AI狂欢背后“污染”来袭

文章地址: www.czybx.com/redian/505114.html