阅读笔记：当机器学会思索，人该如何自处 最近读了一本关于人工智能伦理的书，刚启动读的时候，满脑子都是那些高大上的技术名词。

后来发现，真正让人心里发毛、发痒的地方，往往不在代码里，而在那些看似荒谬却触目惊心的现实中。

那会儿总认定 AI 是冷冰冰的螺丝钉，目前读完，才认定它像是一把锋利的手术刀，切开了我们当作坚固的脑子。 书里用了一个贼扎心的例子，说美国一个女教授，她写了几百篇关于算法歧视的论文，最终居然被判刑。

这确实是个笑话，但仔细想想又不彻底是。她的论文里确实包含了一些技术术语，比如“特征选择”、“交叉验证”还有“最优分类器”。

这些词听起来挺专业，像是那些在实验室里写论文的人专属的词汇。但在现实世界里，当一个人拿着这些词去法庭上辩解，指控机器算法的时候，法官和陪审团可能根本听不懂他们在说啥。

这就像是一个人拿着《本草纲目》去给外星人讲中医治病，结局外星人当场就吓跑了。 这让我想到苏格拉底的“产婆术”。他问学生“啥是美德？”学生回答“是英勇。”学生又问“英勇是啥？”学生回答“在战场上不退缩。”学生再问“那啥是战争？”学生回答“滑翔伞。”便老师又问，“那滑翔伞是啥？”学生回答“飞机。”然后老师接着问“飞机是啥？”学生回答“建筑。”最终老师问“建筑是啥？”学生回答“房子。”最终老师问“房子是啥？”学生回答“石头。”实际上这里的逻辑漏洞贼明显，出于“石头”是一种自然存有的物质，它不能自发变成房子/屋，房子/屋是由工人用砖石堆砌起来的。

故此，礼貌和无理之间、无知和知识之间，实际上只隔着一层窗户纸。

要是我们不警惕，今天当作自己在深谙某种哲学，明天可能在法庭上被当作疯子看待。 书里还聊聊了一个关于“应允”的哲学难题。有些开发者认定，只要用户没有点击“不应允”按钮，就等于默认应允了服务条款。

这听起来挺合理，但细究起来就悬了。想象一下，你应允了一部软件使用你的摄像头，这一应允背后绑定了你的所有隐私数据，并且准第三方随时访问。

要是你突然想关掉摄像头，却发现软件里根本没有这个功能，那么你就被迫应允了一个你一辈子无法收回的“默认应允”。

这种逻辑实际上贼隐蔽，出于它披着“默认”的外衣，却执行着“强制”的行为。就像家长当作孩子应允了自己穿鞋，实际上孩子可能根本就没想过要穿鞋，只是机械地执行了父母的要求。 这让我想起了网络上的一个现象：大量用户在修改隐私协议时，只会把显眼的几行字划掉，却把那些密密麻麻的、默认勾选的条款全体吞下了。他们当作自己是在行使权利，实际上是在履行义务。

这种心理贼敏锐，但恰恰出于敏锐，才更好办被陷阱利用。

要是所有的用户都认定自己拥有“默认应允”的权力，那么所有的数字服务都能够被滥用。 还有一个数据挺有意思。书中提到，在全球范围内，有超过 70% 的算法决策没有经过透明度审查。

这不只是是数字，这是一种态度。就像装修房子，有些业主只关心墙皮刷成啥颜色，却不管水管是不是漏了，电路能不能承重。他们认定房子已经买下来了，装修细节是别人的事。但现实是，一旦房子建成，任何一场火灾、任何一次坍塌，责任都在于那个“不忒懂装修”的业主。 这让我想到本杰明·富兰克林在《穷理查年鉴》里写的故事。有个工匠想省钱，把家里的电线都卖掉去练瑜伽，结局那天晚上家里着火了，他负责收拾残局。

这时候他可能会想：“技术这东西，本来就该让人类改造的，为啥非要让它去管住人呢？”实际上，难题的根源不在于技术本身，而在于我们是否愿意为了技术的便利，主动拉倒对常识的管住。 书里最终还在调侃一下，说有些 AI 模型就连能说出一些让人啼笑皆非的话。它们能模仿人类的语气，能编造合理的逻辑，但就是缺个灵魂。

这让我们陷入了一个悖论：我们越是想利用 AI 来提升自己的认知本事，就越需求警惕它带来的认知退化。就像开车，要是车越来越快，A 柱越来越短，我们是不是应当反过来，让自己开得更慢一点？ 阅读这本书最大的收获，不是学到了啥新的技术细节，而是看清了那种“专业外壳下的愚昧”。我们习惯于用复杂的术语包装好办的道理，用高深的理论掩盖世俗的真。但在技术越来越渗透进生活的今天，这种伪装变得越加悬。我们需求的不是更懂技术的人，而是更清醒的人。 最终再重复一次那个女教授的例子，出于放在不同章节反复提及，反而显得更讽刺。

这不仅是关于法律，更是关于我们自己。

要是连写论文的人都跑不掉，那一般/平平人就更别指望在算法面前有保险的空间了。我们或许还在用那些“词藻华丽”的句式来优雅地掩饰自己的无知，但在这个信息爆炸的时代，最贵得吓人的东西不再是票子，而是保持清醒的大脑。

毕竟，只有清醒的人，才有本事去识别并回绝那些披着“默认应允”外衣的陷阱。