🌳Derrian's Corner

FIELD NOTE · 2026-11-17

AI暗森林|当证明自己是人成为一种新劳动

Maggie Appleton 的 The Dark Forest and Generative AI 写于 2022 年 12 月 31 日,正好赶在 ChatGPT 刚发布、大家一边惊叹一边后知后觉的时候。

她借用了 Yancey Strickler 的“暗森林”说法。开放互联网原本应该是一个能遇见陌生人的地方,后来却渐渐被机器人、广告、水军、爬虫和算法投喂的垃圾占满。活人没有消失,只是躲进了 Slack、Discord、邮件组、小博客和数字花园。于是从外面看,森林越来越安静,仿佛只剩下机器的回声。

这篇文章的判断是:生成式AI会让这片森林继续向外扩张。

以前造垃圾内容还要雇人,现在一句提示词就能生产广告、博客、邮件、社交帖子和营销页面。文字之外,图片、视频、播客和幻灯片也能被拼装出来。问题不只是互联网会变得更大,而是那种“看起来像人写的”内容会变得无边无际。我们原本就擅长在搜索结果里翻找有用信息,接下来可能要在成倍增长的平庸表达里,重新分辨什么值得读、什么背后真的有人。

Appleton 把这个处境叫作“反向图灵测试”。

图灵测试要求机器证明自己像人。现在轮到人证明自己不是机器。你新关注一个账号,看到一篇写得很顺的文章,难免会想:屏幕另一边到底是谁?是一个会吃饭、会犯错、会和人吵架、会在现实里承担后果的人,还是一段根据语料预测出来的人格?

她给出了五种办法,但都没有被当作什么牢不可破的人性护城河。

第一种是回到共同现实。语言模型本质上是预测文本的系统,作者认为它没有身体,没有感官,也不能自己去做实验、查资料或走到街上看一眼。所以具体的在地经验、近期发生的事、只有当地人才知道的地名和细节,会比较像活人的痕迹。这个判断在 2022 年很鲜明,放到今天则要打个折扣。模型已经能联网、使用工具,也能被喂进大量个人材料。现实校准仍然是重要线索,但“AI不知道窗外发生了什么”已经不能当作通行证。

第二种是原创、批判和复杂思考。她形容模型常写出一种“B+大学作文”:结构完整,语气正确,看起来什么都谈到了,却很少有真正新的判断。更麻烦的是,互联网会进入一种内容自我循环——人读模型生成的东西,改写成自己的“原创”,再被拿去训练下一批模型。这个比喻很刻薄,但确实点中了:当总结和复述变得廉价,人的价值会被推到更高的位置,得能跨材料看模式,得敢下判断,也得知道自己的判断哪里可能错。

第三种是语言里的怪癖。正式语言很容易被标准化,日常口语、方言、梗、圈内黑话和临时造词却一直在变。它们像一种活人的暗号。可这也不是长期保险。模型学梗的速度越来越快,圈内语言又会天然排斥不熟悉它的人。靠“说得很像一个特定群体”来证明真诚,最后很容易变成另一种表演。

第四种是机构认证,比如实名注册、身份徽章,甚至某种链上证明。Appleton 自己并不喜欢这个方向,认为它既容易被滥用,也会让互联网失去匿名带来的自由。她说得不算多,但问题很清楚:当一个平台决定谁是真人,它同时也在决定谁有资格说话。

第五种是线下见面。身体仍然是目前最难伪造的东西,至少还能约人喝咖啡、参加聚会、一起做事。不过她也承认,线下优先的生活不是所有人都负担得起。残障人士、住在偏远地区的人、要照顾老人和小孩的人,都可能被这种“真人认证”排除在外。

所以这篇文章最有意思的地方,不是给出了一份完美的人性清单,而是让我们看见:每一种“AI做不到”的能力,最后都可能变成一种新的身份门槛。能写得具体、能展示批判性、能熟练使用某个小圈子的语言、能随时线下出现——这些条件并不平均地落在每个人身上。

我读完后觉得,真正的变化不是“以后再也分不清真假”,而是互联网上那种默认的信任正在消失。

过去我们大体上会先假设对面是一个有限的人。他会累,会忘记,会因为自己的话被记住而有所顾忌,也会在一段关系里慢慢暴露前后是否一致。现在,每个陌生账号都要先经过一轮怀疑。怀疑本身没有错,但它会变成一种新劳动:发照片要证明没修过,写文章要证明没生成,说话要带上足够多的生活细节,连平静和克制都可能显得可疑。

这件事大概不能靠一个“真人认证”按钮解决。更现实的方向,也许是重新重视有记忆的小共同体:认识很久的人、能持续维护的博客、有编辑责任的出版物、线下真正见过面的关系。它们不能保证每句话都真,却能让冒充和撒谎留下时间成本。

Appleton 在结尾说自己会更愿意把时间投给线下关系,同时仍觉得这是一种损失。我同意。暗森林不是把人赶出网络,而是让陌生人的真诚变成需要解释的例外。

我不想每发一句话都先自证是人。可在那之前,也只能继续把具体的事写具体,把网上认识的人约到线下见一面。森林大概不会重新亮起来,至少别把自己也变成里面的一团噪声。

评论区

相关文章