疯狂污染互联网，人类比AI擅长多了

　　人们最担心的事情还是发生了。一位网友在提问New Bing时，答案出现了事实性错误，他点开参考链接发现，作为引用源的知乎回答，竟然也是AI生成的。回顾这个知乎账号，其遣词造句尽显AI风格，答题速度惊人，目前已被禁言。这一现象揭示了AI生成错误信息并自我强化的恶性循环，导致互联网信息质量下降。

　　然而，将责任完全归咎于AI并不公平。生成式AI输出错误信息是其固有缺陷，尽管联网能参考多个信息源缓解这一问题，但我们还是迅速陷入了新的困境，正如古早的计算机格言所言：garbage in, garbage out（垃圾进，垃圾出）。

　　国内外已发生多起AI假新闻事件。今年4月，多达21个账号同时发布了一条关于甘肃火车撞人致9人死亡的虚假消息。网警初步判断信息不实，锁定了深圳某自媒体公司，发现犯罪嫌疑人在全网搜索热点新闻并通过ChatGPT修改编辑后多次上传。此外，国外知名科技媒体CNET也被曝用AI生成文章，其中77篇存在错误。新闻可信度评级机构NewsGuard发现49个新闻网站的内容大部分或完全由AI生成，它们“师出同门”但各有千秋，有的杜撰虚假信息，有的重写其他媒体报道。

　　更令人担忧的是，AI不仅在文本上造假，图片和视频的深度造假也越发炉火纯青。例如，穿着羽绒服的教皇、特朗普下乡再就业等虚假内容在社交媒体上广泛传播。这些虚假信息不仅欺骗用户，还可能对现实造成负面影响。

　　与此同时，AI污染不仅影响现在，也可能带偏未来。当人类越来越多地通过AI生成内容，它们会大量进入在线数据库并用于训练未来的AI。这种循环可能导致“模型崩溃”，即AI生成的错误会复合并导致下一代AI更加错误地感知现实。研究人员形象地比喻：我们即将用废话填满互联网。这不仅使训练新模型变得更加困难，还促使内容平台筑起城墙保护高质量数据。

　　然而，互联网被污染的锅不应全由AI来担。事实上，AI本应用于提高互联网内容的下限而非制造污染。在GPT-3时代，已有将其用作写作工具的实践。然而现在却有人利用AI制造新的内容农场并产生低质量内容这反映了人类出于利益的选择以及媒介使用习惯的改变加剧了问题。

　　因此解决AI污染问题需要综合考虑技术、伦理和社会因素。一方面需要保留原始数据集并避免被AI生成的数据污染；另一方面需要引入新的、干净的人类生成数据集并区分AI和人类生成的内容。同时需要提高用户对虚假信息的抵抗力并培养独立思考的能力以应对后真相世界的挑战。

　　最终我们需要认识到AI污染互联网是一个复杂的问题它关乎技术、伦理和社会多个层面。在利用AI提升生产力的同时我们也应关注其可能带来的负面影响并采取有效措施加以应对以维护一个健康、真实的网络环境。