如果你过去几年上过网，大概已经习惯了垃圾信息泛滥。LLM 让这件事变得更容易了——生成一段看起来像人话的广告、假评论、钓鱼链接，成本几乎为零。

Reddit 最近发了一篇博客，说他们用 LLM 开发了新工具来砍垃圾。讽刺的是，这些垃圾大多也是 LLM 造的。

平台没得选，只能以毒攻毒。


*图片来源：TechCrunch*

根据 Reddit 的数据，这套新系统每天拦截 2300 万次垃圾信息浏览，每天识别并阻止约 25000 条新的垃圾帖子和评论。

社交平台做垃圾过滤不是一天两天了，但 Reddit 说这次的效果比以前好。

他们的博客原文是这么写的：

> “我们利用 LLM 来捕捉那些高度隐蔽的、协调的虚假行为模式和人为炒作，旧系统以前发现不了。”

具体数字：从今年 1 月到 3 月，用户接触垃圾信息的比例比前三个月下降了 20%。

YouTube、Meta、Instagram 允许用户发布 AI 生成内容，前提是标注清楚。TikTok 甚至让用户自己调节想看多少 AI 内容。

如果平台能更快检测 AI 内容，理论上也能更快标记仇恨言论等违规内容。但平台治理专家一直在提醒：AI 审核必须配合人工审核才能达到最佳效果。

Reddit 这次的做法，算是给所有被 LLM 垃圾困扰的平台打了个样。用魔法打败魔法，听起来荒诞，但可能是眼下最有效的办法。