AI生成的“垃圾文章”正充斥互联网

21CTO导读：当前很多的平台内容已经被AI充斥，这代表着“垃圾文章”遍地，这如何来解决？

最近人工智能检测平台Pangram发表了一项研究，其数据表明，社交媒体帖子充斥着人工智能生成的“垃圾内容”。常见的是一些篇幅较长的帖子，特别是发布在LinkedIn或类似社交平台上的帖子。一些用户因此厌倦了阅读这种非人类撰写，充满一本正经胡说的AI味道的文章，决定彻底退出。

除了提供常见的AI内容检测服务外，Pangram在4月底发布了一款Chrome插件程序。该扩展程序每月收费20美元，可以自动扫描用户的LinkedIn、Medium、Substack、X和Reddit信息流，检查其中是否存在AI生成或辅助生成的内容。

自从该插件发布以来，Pangram已分析了超过一百万条用户通过该扩展程序分享的数据。该机构由此得出结论：AI生成的垃圾内容充斥着社交媒体，对长篇内容的冲击尤其严重。

Pangram 的检查并非自说自话，相关评测数据显示它在各类文本检测中均展现出极高的准确率，包括博客、评论、简历、新闻和小说等。在短篇文本中，其误报率和漏报率虽略有上升，“但仍远低于合理的政策阈值”。

芝加哥大学的研究人员指出，与其他现有的AI检测器相比，Pangram表现更胜一筹。当将假阳性率（FPR）上限设为0.0001时，“无论是GPTzero还是Originality.AI，在最严格的FPR政策限制下都表现不佳……而Pangram在大多数大型语言模型（LLM）上仍能保持约0.01的假阴性率（FNR）。”

Pangram 将超过 250 字的长篇内容即定义为“长篇内容”。其调查发现，在其研究的所有平台上，此类帖子中有高达 25% 完全由人工智能生成。需要注意的是，这里说的“完全”是指全部生成，用户借助大语言模型（LLM）的帮助润色平淡的文字，并不包括此内。这一比例在各个平台上的分布并不均衡。

LinkedIn （中文称领英）在这方面“遥遥领先”。

Pangram 的分析显示，其长篇内容中有 41% 是由人工智能生成的。对于任何曾经认真阅读过这家微软旗下“垃圾网站”冗长职业评论的人来说，这或许并不令人意外。

另外一家人工智能检测公司 Originality.ai发现 LinkedIn 上 54% 的长篇内容都是由人工智能生成的。Originality 对“长篇内容”的定义略微宽松一些，其分析中将超过 100 字的内容都纳入了统计范围。

根据 Pangram 的研究，LinkedIn 上的短篇内容不太可能是人工撰写的。他们发现，50 到 250 字之间的帖子中有 30% 完全是由人工智能撰写的。

对于LinkedIn上那些“思想领袖”来说，在利用人工智能撰写文章方面，他们的态度通常是要么全用，要么全不用，只有4.3%的长篇内容是由人工智能辅助撰写的。Pangram总结，该平台上只有55.2%的长篇帖子是由人类撰写的。

虽然LinkedIn在长篇内容（尤其是那些完全由人工智能生成的垃圾内容）的数量上可以说是“遥遥领先”，但是将马斯克的X平台中人工智能生成的垃圾内容也算进去之后，后者要略胜前者一筹，不过说实话，两者差距并不大。

数据展示，在X平台上有四分之一的帖子完全由人工智能撰写，另有23.2%的帖子据信是在人工智能的辅助下完成的，这表示Twitter上52.7%的帖子是由人类撰写的。

Pangram发现Medium的情况也好不到哪儿去，大约三分之一的文章可能是由人工智能撰写或借助人工智能完成的。另一个平台Substack是人工智能拙劣作品最少出现的地方，但即便如此，Chrome扩展程序分析的文章中，仍有近四分之一（21.9%）是由人工智能完全撰写或借助人工智能完成的。

Reddit 的情况略微复杂一些，帖子评论占据了 Reddit 内容的很大一部分。根据 Pangram 的数据，11.6% 的 Reddit 帖子是由人工智能撰写或辅助撰写的；98.1% 的评论是由人类撰写的。评论数量远超顶级帖子数量，这表示着如果你想避免人工智能思维的侵入，Reddit 现在还是个不错的选择。

总而言之，Pangram 根据其研究数据得出结论：人工智能写作正在充斥社交媒体，就像它充斥网站和其它在线产品一样。

Pangram首席执行官Max Spero在报告中谈到研究结果时表示：“一个完全被未公开的AI内容充斥的互联网令人担忧，但我们认为这并非不可避免。” Pangram认为，让互联网用户了解哪些内容是由AI生成的，以便他们能够忽略这些内容，是解决问题的办法。

当社交媒体上都是一本正经的胡说八道的文字时，需要有一款工具帮你鉴别谁在胡说。

如果不能够辨识，是时候彻底断开与这些信息流的连接了。