PostsMapsLinks
Agents

AI 与人性交互

LLM 作为 Facade(自我的假象)

Tim Schilling 在讨论 Django 社区贡献时提出了一个深刻洞见:当 LLM 同时负责生成代码、撰写 PR 描述、处理审查反馈时,它成为了一种 "facade of yourself"(自我的假象)。

这种 facade 帮助用户投射出理解、思考和成长的印象,但却消除了人类应有的透明度和脆弱性。 对于审查者而言,与一个 facade 交流是令人沮丧的——你无法区分对方是真正理解,还是仅仅在模仿理解。

这不是关于是否使用 LLM 的问题,而是关于是否仍然理解所贡献内容的问题。 如果贡献者不理解 ticket、不理解解决方案、不理解审查反馈,那么 LLM 的使用就是在伤害整个社区。

见:Give Django your time and money, not your tokens

理解没有捷径

在 AI 能够生成完美代码的时代,我们为什么还需要学习? 因为知识不是信息,而是转化;理解不是拥有,而是成为。

学习的过程就是成为的过程——剥离这个过程,我们就剥离了人性本身。 LLM 的危险不在于它能生成代码,而在于它制造了"完全透明"的假象,遮蔽了理解的缺失。

开源贡献(尤其是 Django)是一项集体协作的努力。 剥离人性会让这项事业变得更加困难。

见:Give Django your time and money, not your tokens

透明性与脆弱性的伦理

Judith Butler 将脆弱性(vulnerability)视为伦理关系的基础。 我们以相互依赖的身体存在于世界上,因此都处于受损的可能之中。 脆弱性是人类存在的本体论条件,我们的生命"总是已经"依赖于外部——他人、制度、环境。

伦理责任源于对共同脆弱性的承认。 但 Butler 同时指出:脆弱性恰恰无法被完全透明地认识。 她有一句常被引用的名言: "For representation to convey the human, then, representation must not only fail, but it must show its failure."

这意味着:人性/脆弱性无法被完全呈现,"展示失败"本身就是伦理姿态——承认他者的不可完全还原性。

这与 LLM facade 的批判形成有趣的呼应: facade 的问题恰恰在于它不展示自身的失败,制造了完全理解的幻觉。

见:Judith Butler, Precarious Life: The Power of Mourning and Violence (2004); Frames of War (2009)

AI 向每个学科低语"其他人不重要"

AI 对每个角色都发出同一种诱惑:设计师觉得工程师是障碍, 工程师觉得设计已是 AI 可解决的问题,后端认为前端是"已解问题"…… 本质上是在向每个人耳语:"除你之外,所有人的工作都很简单。"

但 Paul Ford 的反驳恰如其分: "生活中最残酷的事实是,你热爱的那个学科,离开了你所鄙视的其他学科,便毫无意义。"

最好的产品来自跨学科团队——人不是阻力,协作才是核心。

见:Re: People Are Not Friction

Copyright © 2024 Lionad - CC-BY-NC-CD-4.0