什么是AI Slop？写作平台Medium「AIX废文逼近40%」

AIX侵袭Medium

史丹佛大学2024年3月的研究报告指出，Facebооk的演算法正在对用户推荐一些奇怪、空泛的AI生成图片，一些帐号利用意义不明或能引起用户特定情绪的AI图片吸引点击，将用户导向平台外的AI内容农场，在上面X劣质产品，或获取用户个资。

大眼睛的小孩捧著生日蛋糕、刚果儿童用竹子建造出大型雕像……，各式各样看似无害却无意义的虚构AI图片，正在Facebооk、X（Tw1tter）上获得数以万计的按赞和分享。

在史丹佛大学研究中采样了120个网站，这些AI生成图总计获得了数亿次互动。其中一篇包含AI图片的贴文甚至成为Facebооk在2023年第3季中观看次数最多的20篇内容之一，观看次数达到4,000万次。

AI生成X（AI-generated Garbage）是否正在攻占网络世界？其中，社X媒体和部落格网站首当其冲，作为全球最大的部落格平台Medium，也遭遇到AIX涌现的问题。

一张由AI生成的照片中，一名刚果的小男孩站在巨大的编织作品前，内文写道：「我自己做的，但没人欣赏」，贴文获得了110万赞数和1.9万次转发。 图／ 史丹佛大学研究报告AIX攻占版面，网络已死？

AIX，或称AI Slop（Slop原指废弃的液体），是指由生成式AI产出的大量劣质内容，类似于电子邮件的Spam（诈骗邮件），其形式可以包含文字、图片、影片，甚至是整个内容农场网站。

自从生成式AI变得普及以来，网络上开始充斥大量的AIX。

美国媒体《连线》（WIRED）报导，今年上半年，AI侦测公司Pangram Labs分析了部落格平台Medium上27.4万篇新文章，发现约有超过47%的内容可能是由AI生成。

另一家侦测公司Originality AI也对Medium进行分析，发现2018年Medium文章可能为AI生成的比例约3.4%，然而到2024年却大幅增加到超过40%。

尽管侦测工具无法X确认内容是否由AI生成，但是2家不知道彼此分析结果的公司，却都得出了相似的结论：有越来越多的AI生成内容，正占据著用户的萤幕和观看时间。

其他类型的平台也无法免于AIX的侵袭。《X》报导，许多缺乏事实查核的AIX文章正伪装成新闻，发表片面或错误的资讯，以在特定政治议题上带风向，或是赚取数位广告收入。获取正确的资讯对一般人来说逐渐变得困难。

AIX的大量出现，让一些人开始怀疑「网络已死论」是否即将成真。

根据《富比士》的文章解释，「网络已死理论」（Dead Internet Theory）相信网络上大多数的流量、贴文和用户都已经被机器人和AI生成内容取代，人们上网大多是在不知情的情况下与AI生成的内容互动，而非其他真人，且人类也不再主导网络发展的方向。

虽然「网络已死理论」普遍被认为是一种阴谋论，目前也没有证据能够证明其为真，但随著近年生成式AIX淹没网络，此理论也重新获得了大众讨论的热度。

Medium尝试打击劣质内容

Medium正在尝试打击AIX。

今年3月，Medium官方在网站上发布了文章〈我们正在加强保护Medium社X免于X讯息和诈骗的侵害〉，宣布Medium即将停止分润、停止创作者计划给发布「AI生成内容」和「劣质内容」的创作者，并表达Medium坚决反对劣质内容的立场。

Medium发布〈我们正在加强保护Medium社X免于X讯息和诈骗的侵害〉文章，表达平台坚决反对AIX内容的立场。 图／ Medium

Medium执行长Tony Stubblebine接受《连线》采访表示，Medium现在主要运用2个方法应对大量X的劣质文章：一般的筛选系统，以及人工挑选。

他表示，「人」是Medium品质管控的核心，「现在Medium基本上是依靠人工策展运作的。」Medium上许多用户自行产生的内容，他们会找寻人工编辑来把关文章，Medium还有额外的人员负责筛选适合被「推广」的文章，目的是希望能让好内容被更多人看到，而劣质内容则会在广大的内容海中被淹没。

Stubblebine相信人工挑选可以筛出文章品质优劣，也是避免AIX受到关注的重要机制，因为大部分的劣质内容——包含许多AIX——会在人工筛选机制下被自然淘汰，「如果要吹毛求疵，可以说我们是在过滤AI内容，但我们的目标超越了这一点，我们只是想过滤掉那些品质不佳的内容。」

然而，AI内容是否就完全等同于劣质内容仍值得讨论。《连线》发现，Medium上有数篇被检测公司认为可能是AI生成的文章，在平台上获得了数百个「掌声」（等同于按赞数），显示AI内容不一定会如Stubblebine所说，被筛选机制视为劣质内容而被淘汰。

有些人相信就像X信件的过滤系统，最终世界上会出现能够过滤掉AI内容的工具，然而随著AI技术的快速进步，可以预期辨识AI内容的难度也将越来越高。