一、一本暂时不想给人看的笔记
设想一位名叫林岚的教师。这个人物及以下经历都是为分析问题而构造的。她开始与一个个人智能体共同备课,把课堂中的困惑、自己没能回答的问题和一些尚未成熟的念头记下来。起初,她只想提高工作效率,后来却发现,这个空间使她能够提出在会议上不敢立即说出的问题:为什么自己总在追求学生整齐的答案?为什么最认真准备的一节课,反而让某些学生更加沉默?她还没有结论,只是开始重新理解自己的教学。
这些记录里有公开知识,也有她从公开知识中形成的私人理解。同一篇教育论文,别人可能拿来改进课堂技术,她却从中辨认了自己对失控的恐惧。某个概念的字面意义是公共的,它进入她的生活之后形成的关联,却还没有准备好成为公共表达。她允许智能体帮助整理,不意味着她愿意让同事、平台或陌生读者随时阅读全部过程。
一天,她发现系统很擅长推荐内容。它根据过去的笔记,反复向她推送“如何克服焦虑”“如何建立课堂权威”。这些建议未必恶意,却渐渐把她正在开放的问题收成一个稳定标签:她是一位缺乏自信的教师。她原本想探索自己怎样改变,系统却越来越熟悉地告诉她“你就是这样的人”。隐私问题此时已经超出有没有泄露姓名。即使无人公开笔记,她的发生空间仍可能被一种过早固定的画像压缩。
本章提出一种解释:隐私可以从主体性的个体性保护的发生来理解。这个定义把问题从“某些信息该不该被看见”,推进到“一个人怎样保有自己继续形成的条件”。这里的“我”不是一座早已建成、只需围墙保护的建筑。人会试错,会改变,会在与工具和他人的互动中出现此前没有的能力;隐私保护要照看的,正包括这些尚未定型的过程。
这个推进并不使信息保护失去重要性。笔记被擅自传播,当然会改变林岚的处境;记录被不当使用,也可能破坏信任。只是,如果我们把隐私完全压缩成保密,就可能遗漏另一种伤害:信息没有公开,却被持续用于替本人规定目标、缩小选项或固定身份。本章以发生学的方式讨论这些问题,提出规范性的分析和设计方向,不把它们当作现行法律条文,也不声称所有问题已经找到制度答案。
二、个体性不是一个与关系无关的内核
谈保护“我”,容易让人想到一个完全独立、先于关系存在的自我。SDE的起点不同。一个人的语言、知识、习惯和判断,都在复杂互动中形成;他与家庭、学校、工具、制度及现实事物发生联系,才逐渐显露为具有某些能力和特征的人。承认这一点,并不意味着个人应当把自己的一切交给关系网络。恰恰因为关系能够塑造人,关系的边界才格外重要。
林岚的笔记来自教学、阅读和对话,没有哪一个部分是从真空中产生的。但这些来源并不能推出所有相关者都有权获得全部笔记。共同发生与全面共有不是同一个命题。很多人参与了一个人的形成,并不意味着他失去了决定哪些过程暂时留在自己这里的正当理由。若从“我依赖我们”直接推到“我必须交出全部自己”,关系论就可能变成取消个体性的理由。
个体性也不必被理解为与别人完全不同。林岚可能使用公共语言,赞同许多人赞同的观点,选择一种并不罕见的生活。她仍然拥有自己的经历组合、关切和承担方式。个体性保护不是强迫每个人都变得独特,更不是把普通生活判为缺少创造。它保护的是一个人能够形成、保留和修订自己的方向,而不是永远服从外界替他完成的定义。
“拒绝从我走向我们”可以是这种保护的一种选择。林岚暂时不愿把笔记加入教研组共享库,并不一定表示她拒绝合作。她可能愿意分享成熟的教学设计,却保留对自身恐惧的探索;愿意参加讨论,却不愿让每一次试探都被永久记录;愿意接受帮助,却要求帮助不能自动转化为控制。拒绝某一次共同化,可能正是为了以后能够以更成熟的方式参与共同生活。
因此,隐私不是一个固定位置,而是一种可以变化的边界。今天只属于自己的思考,明天可能自愿公开;今天愿意分享的经验,经过新的情境也可能需要限制用途。边界的变化并不证明此前的边界虚假,而是反映主体和关系都在变化。重要的是变化如何发生:由谁决定,根据什么理解,是否保留重新选择的可能,是否有人借便利或压力把暂时同意变成永久交付。
这里需要区分事实上的可控制与规范上的应当尊重。一个人可能无法实际阻止某些观察,但这不自动使观察合理;一个系统可能技术上能够推断许多特征,也不意味着这些推断都应当用于所有目的。本章提出的发生学问题,不能替技术能力或制度权限作简单背书。它要求研究:某种使用怎样改变人的继续发生,以及这种改变是否经过当事人能够理解和参与的安排。
三、隐私怎样贯穿现实、理念与自我
隐私常从身体、住所、通信和个人信息谈起,这些都是重要入口。SDE的三界视角则提示我们,同一隐私关系可能同时涉及现实世界、理念世界和自我世界。三界不是三间互不相通的房间,它们在具体生活中纠缠。笔记作为文件存在于现实装置中,其中的概念属于理念活动,它带来的羞耻、勇气和自我理解又牵动自我世界。
现实世界的保护,关心可接触的空间、身体行动和记录载体。林岚在哪里写笔记,谁能够拿到设备,哪一种操作会把内容复制出去,这些安排会直接影响她能否安心思考。若一个空间始终有人监督,许多探索可能尚未开始就被压住。发生学在此不把物理条件当作抽象背景,而是追问这些条件怎样参与形成可说、可想、可试的范围。
理念世界的隐私尤其值得注意。本章以“我的知识”为理念世界中需要讨论的隐私例子,这里的知识不能只理解为一本书中任何人都能查到的事实。它可以是一个人从经历中形成的解释,一种尚未公开的方法,一组正在组织的概念,或者某个只对本人当前问题具有特殊意义的关联。公开材料可以进入私人知识的形成,但这种形成过程不因材料公开就自动失去边界。
林岚从几篇公开论文里形成一个新的课堂问题。她还不知道问题是否值得研究,也担心自己误解了原文。若系统要求每一个中间念头立即公开,同行可能更早提供帮助,但她也可能只写已经安全、不会暴露困惑的句子。理念世界的隐私在这里保护的,不只是完成后的成果,还包括未完成思想得以试探和修改的时间。它使一个人能够暂时不被自己的第一句话永久代表。
自我世界的保护则涉及感受、意义和身份形成。林岚向智能体讲述一次课堂失败,不一定是在请求别人定义她的性格;她可能只想把当时的困惑说清楚。系统若迅速把一次经验归入稳定画像,就可能抢先完成了本应继续开放的自我解释。保护自我世界,不是禁止任何解释,而是让本人仍有机会参与、拒绝、修订这些解释,并保留不必立即解释自己的时刻。
三界之间的连带效应很重要。一个私人笔记被公开,现实中的传播会改变他人评价,评价又会使本人以后不敢记录,最终改变可形成的知识。反过来,一个系统仅在内部使用某种标签,也可能影响推荐和行动机会,逐渐改变现实处境。数据没有“泄露”不等于没有影响,文件被删除也不必然消除已经进入关系和记忆的后果。发生学要求追踪这一连串变化,而不是只检查一个孤立动作。
私人记录还有一个复杂处:它常常同时包含他人的生活。林岚记录课堂时,也记录了学生的反应;讲述自己的困惑时,可能提到同事的行为。称它为“我的笔记”,不能自动使其中每一个涉及他人的部分都成为可以任意处置的个人财产。她对自身形成过程的边界要求,与他人对自身经历的边界要求会相遇。这使隐私保护从单方控制的问题,变成需要辨认多方关系的问题。
例如,林岚愿意公开自己的失误,不代表学生也愿意以可识别方式进入故事。她可以重写案例、减少不必要细节,或者选择只讨论与论证有关的结构;但任何处理都有范围,不能简单宣称换掉姓名就消除了全部关联。某些组合细节仍可能使熟悉者认出当事人。这里不提供具体法律结论,而是指出发生学上的责任:一段内容的生成由多方参与,公开它的后果也可能落到多方身上,个人的分享自由需要与这些后果一起判断。
但三界分析也不能无限扩大“隐私”一词,使所有不喜欢的影响都成为隐私侵犯。教学意见、公开批评、他人独立判断,可能令人不适,却仍有各自的正当位置。需要具体辨认对象、关系、用途和边界。林岚公开发表一篇论文之后,别人可以批评论文的论证;这不等于他们因此可以随意取得她未公开的私人笔记。区分公开承诺与私人形成过程,才能同时保有批评和个体性。
四、“我的知识”为什么不是信息库存
如果知识只是能够复制的内容,“我的知识”似乎只是我占有的一份信息。AI可以迅速提供类似内容,这份占有就容易贬值。本章对我经济的解释性探索,把关注点移向能够形成知识的“我”及其发生过程。对于入门者,理解这个转向的最好办法,是比较同一句话在不同生活中起了什么作用。
“不要把学生的沉默简单看作没有思考”,这句话任何人都可以复述。对林岚而言,它经过具体课堂观察、一次错误判断和后续调整之后,成为她辨认学生反应的方法。她知道哪些沉默可能来自理解困难,哪些来自等待,哪些可能与评价压力有关;她也知道自己仍可能看错。这份知识不只是一句结论,而是一套在具体关系中形成、可以继续修订的辨认能力。
AI可以参与这种形成。它帮助比较课堂记录,提供竞争解释,提醒她不要把一次观察普遍化。可是,模型生成一段“沉默的三种类型”,并不等于林岚已经具备相应能力。她仍要在实际情境中辨认、行动和承受反馈。同样,她亲自经历了课堂,也不保证解释自动正确。个人知识的形成既需要经历,也需要把经历带入可检验的理解,工具和他人能够在其中发挥重要作用。
保护“我的知识”,不应变成拒绝所有批评的盾牌。若林岚提出一个关于学生的公开事实判断,她仍应提供相应依据,不能以“这是我的知识”免除检验。个人归属和认识有效性是不同问题。隐私可以支持她选择何时公开哪些材料,却不能把公开论断变成无须回应的私人真理。发生学若要进入公共讨论,必须同时维护个体形成空间和公共主张的可讨论性。
另一方面,也不能因为公共检验重要,就要求个人交出全部发生史。一个人可以解释自己的结论、方法和必要证据,而保留与论证无关的私人经历。审查需要什么信息,应当随主张的性质确定。对一项数学证明,论证本身可能承担主要检验;对某种经验主张,方法和材料会更重要;对一段个人感受,表达者的体验又具有不同地位。没有一种“全部透明”能够替代这些区分。
由此看,理念世界的隐私具有生产性的意义。它提供形成能力、组织问题和保留差异的条件。但生产性不是隐私唯一的价值。一个人不需要证明自己的独处最终会产出论文、利润或创新,才值得拥有边界。若把隐私完全解释为创造力投资,那些暂时没有产出、只是休息或悲伤的人就会被排除。SDE的“发生”应当保留生命活动的多样性,不能被经济产出的单一尺度吞没。
五、为什么把隐私称为我经济的构成条件
本章提出一项规范设想:把隐私保护作为我经济的构成原则。这里的“宪法”可以理解为构成新经济典范的基础原则,而非声称某部现行宪法已经规定了这一完整理论。它要表达的是:如果人的个体性和个人知识形成过程随时可以被他者吸收、占用或重定向,那么以“我的发生”为中心的经济,就缺少自身赖以成立的条件。
用林岚的情境说明。假设一个服务以“帮助你形成自己的教学能力”为目标,却要求她把全部过程记录交给服务方,服务方又可以在她无法理解和改变的情况下,使用记录给她定型、决定可见内容、限制迁移。即使服务提供了许多便利,它也可能把个人成长变成持续依赖的来源。服务越了解她,退出越困难;她越需要改写自己,旧记录越强烈地替她规定下一步。这样的安排是否符合我经济的目标,显然值得怀疑。
构成条件的说法,强调保护要进入生产方式本身,而不是只在出事后补救。若隐私只是事后赔偿问题,系统可以先吸收全部过程,再为少数明显损害付出代价;但个人不再敢探索、拒绝或改变的损失,未必容易以单次事件显露。把保护放进发生条件,就要问记录如何产生、默认用途是什么、哪些部分可不记录、用途改变怎样被理解、退出之后能否继续自己的工作。
这不意味着所有个人服务必须采取同一种商业模式。收费咨询、工具订阅、共同体支持、公共服务,都可能有不同安排。关键不在用哪一个名称,而在经济活动实际奖励什么。如果收入依赖用户永远无法独立,服务便可能与用户能力成长发生张力;如果评价只看停留时间,就可能把人的困惑延长当作成功;如果服务以可迁移的能力和可结束的帮助为目标,则需要其他方式说明自身价值。
经济上的张力也不能靠善意消除。服务需要资源、人员和维护成本;用户希望得到帮助,又可能不愿承担全部成本。问题不是一句“不得商业化”就能解决,而是如何让代价显露,让不同安排可以比较。免费使用可能伴随其他交换,付费也不自动保证尊重个体性。发生学的分析应当穿过价格形式,追问是谁在得到什么,谁承担什么,以及这种交换怎样影响后续发生。
这里最强的质疑是:许多经济活动早已在隐私不足的情况下繁荣,怎么能说没有隐私就“不可能诞生我经济”?回答需要限定命题。如果“我经济”只是任何面向个人的产品,历史上和现实中当然存在大量并不充分保护隐私的个性化服务。本章采用一个较强的规范概念:以个人能够持续形成自己的知识、能力和方向为中心;这一解释的原书依据仍需进一步核对。隐私之所以成为构成条件,是相对于这个目标而言,而不是在预测没有隐私的市场绝对无法赚钱。
这样的限定没有削弱命题,反而使它可以讨论。我们可以问某种服务是否真正扩大个人的行动和解释能力,还是只是更准确地读取偏好;可以问隐私保护怎样支持前者,也可以寻找保护充分但仍没有促进成长的反例。隐私可能是重要条件,却不必是充分条件。知识资源、教育机会、时间和共同体等因素仍然重要。把构成条件说清楚,比把一个价值词宣布为全部问题的答案更能推进研究。
六、个性化为何可能走向相反方向
个性化服务最容易获得好感,因为它看起来终于不再把所有人当作同一种人。但“更了解你”可以服务于不同目的。它可以帮助你更好地选择,也可以更精确地影响你;可以支持你改变,也可以提高旧行为的可预测性。服务是否个性化,与个体性是否得到保护,不是同一个问题。
在构造情境中,系统发现林岚常在夜晚反思课堂,于是把相关材料集中在那个时间提供。这可能很有帮助。可是,如果系统进一步学会她在疲惫时更容易接受某类建议,便不断选择那一时刻推动购买或承诺,了解就变成了影响的工具。这里不指控任何具体产品,只是说明同一类个人信息在不同目标下会进入不同的发生过程。评价必须追到用途和后果。
更微妙的风险来自过度匹配。林岚过去偏爱严格课堂,系统便持续提供支持严格管理的文章;她开始怀疑这种方式,系统却把怀疑解释为短暂情绪,继续给出原来最合口味的答案。个性化由此把历史偏好当作不变本质。她越使用,推荐越一致,越难接触能使自己改变的差异。这个过程可能让人感觉舒服,却不一定让人拥有更大自由。
支持发生的个性化,应当允许人对自己的画像提出异议。一次旧选择不必代表永远的偏好,一个曾经有效的方法不必成为身份的一部分。系统可以记住历史,但应当区分历史记录与当前目标;可以提出推断,但不把推断冒充本人自述;可以帮助发现稳定模式,但仍保留异常和修订的入口。这些原则只是设计方向,实际如何实现、代价多大,需要具体产品和使用研究。
还有一个界限:人并不总是希望每一次服务都推动成长。有时林岚只想迅速排好一份课表,不想经历关于主体性的深刻对话;有时她只想休息,不想被系统提醒“走出舒适区”。尊重个体性也包括尊重这种普通需要。若服务以促进发生为名,持续干预用户的每个选择,它同样可能成为新的控制。成长目标应当由当事人参与决定,而不能由理论替所有人预先规定。
真正的个性化因而有一种节制:知道什么时候帮助解释,什么时候只完成明确任务,什么时候保留沉默,什么时候提出需要本人确认的重大变化。这与前章的分层判断相连。系统能力越强,不意味着它应当在每个层级都替人决定。对自己发展方向的参与,可能比每一次具体操作的亲自完成更重要。隐私保护照看的,正是这种参与所需的空间和边界。
七、从我到我们,需要怎样的门
人不会只在独处中成长。合作、友谊、教育和公共讨论都可能使个体获得此前没有的能力。若隐私被理解为永远不进入关系,就会失去发生学最重要的互动维度。问题不是在个人与共同体之间永久选一边,而是怎样形成能够进入、停留、分开和再进入的门。
林岚后来愿意把一个成熟的课堂案例带到教研组。她分享的问题、观察和修改,并不包括全部私人笔记。组员提出反例,使她发现自己的解释仍然过窄。这次共同讨论推进了她的知识,也给团队留下了可用经验。她保有私人空间,并没有阻止公共贡献,反而让贡献经过了一段能够试错的准备。隐私与分享在这里是相继、相互支持的活动。
但门的存在不只取决于一个“同意”按钮。她是否理解分享的范围,是否能拒绝而不承受不合理惩罚,是否知道材料会不会被用于其他目的,都影响同意的实际意义。如果教研组表面自愿,实际上把不上传私人记录的人视为不合作,那么选择空间就与字面规则不同。发生学要看的是选择如何被条件塑造,而不只看最后有没有一个肯定回答。
反过来,团队也有合理的共同要求。若林岚参与一项共同承担后果的项目,她不能把与共同决策直接相关的必要事实全部隐藏,再要求别人承担结果。个人边界与共同责任需要具体协商。本章不提供一条适用于所有情境的绝对优先序,而提出一个判断方向:要求披露的内容与共同任务有什么关系,是否存在侵入更少的替代方式,谁承担披露的代价,谁能够对用途变化提出异议。
这也提示“拒绝共同化”的边界。一个人可以拒绝分享尚未成熟的思想,却不能借隐私之名要求自己的公开行为完全不受评价;可以保留私人生活,却不当然拥有隐藏对他人造成现实影响的全部事实的权利。这里涉及具体制度时,需要相应专业讨论。本章只强调,保护个体性与免除一切责任并不相同。若忽略后者,隐私理论容易被用来遮蔽权力;若忽略前者,共同责任又可能被用来无限索取个人。
因此,健康的共同生活需要会合作,也需要会分开。分开可以恢复独立思考,合作可以检验私人理解;独处可以容纳尚未成形的感受,公开可以让主张面对他人。三界中的节奏也未必一致。一个人可能在现实工作上紧密协作,在理念探索上暂时独立,在自我体验上保有更强边界。不能因为某一层共同,就推出其他层也应当全部共同。
这样的门不是一次设计就永远合适。团队目标变化,关系亲疏变化,个人能力变化,边界都可能需要重谈。重新协商并不一定是关系倒退,而可能说明关系已经发展到旧安排无法容纳的阶段。SDE的发生视角使我们不只问边界画在哪里,还问边界怎样形成、怎样被维持、怎样能够改变,以及改变之后的人与共同体获得了什么新的能力。
八、能说“不”的能力怎样发生
理论上拥有边界,并不等于在具体关系中能够主张边界。有的人知道自己不愿公开,却无法说出口;有的人说了“不”,对方仍把它当作等待说服的信号。边界保护因此不仅是设置选项,也涉及人的主张能力和他人的承接方式。网站学员文章《界成》把这一问题作为专门研究对象。本章借此确认一个值得继续追问的方向,不把该文全部理论视为已经获得经验定论。
林岚第一次要求“不把私人反思加入共享库”时,负责人可以有不同回应。一种回应是追问她为什么不信任团队,要求她先证明自己的顾虑足够合理。另一种回应是先承认这个范围可以保留,再讨论共同任务确实需要哪些材料。两种回应不只决定一次信息流动,也可能改变她以后是否愿意表达真实边界。如果每次拒绝都必须付出漫长辩解,她可能逐渐只提供最安全的表面内容。
这里的承接不必等于无条件认可所有请求。有时确有共同任务需要说明信息,但对话可以先区分:哪些要求涉及个人不必交付的过程,哪些涉及已承担的共同责任。把一切都放进对人格的评价,会让边界谈判变成“你是不是一个好成员”。较好的安排,是让范围和用途成为可讨论对象,而不把拒绝立即解释为道德缺陷。这样既可能保护个人,也可能提高真正必要的合作质量。
AI系统的回应同样会塑造主张能力。如果用户表示“不想谈这个”,系统不断换一种方式追问,就可能把拒绝当成需要优化的阻力;如果它尊重停止,并使用户知道以后可以主动回来,边界就有了可经验的效力。这里的重点不是机器是否理解了人的尊严,而是具体互动怎样影响人的选择。系统不必具有意识,仍可能通过稳定行为支持或削弱主体性。
边界能力的形成还受到权力条件限制。一个人的生计、学习机会或社会关系可能依赖某个系统,此时“你可以不用”并不是充分回答。形式上的退出选项,与现实中能够承担退出的条件不同。个体性保护不能只向弱势者提出更勇敢的要求,也要看服务替代、记录迁移、共同支持等条件是否存在。发生学若只研究一句拒绝如何说出,而不看拒绝之后的生活,就会把结构性困难缩小成个人技巧。
不过,权力影响也不意味着个体毫无行动空间。人可以逐步明确范围,选择较小的分享,寻求共同规则,积累成功表达边界的经验。何种行动合适取决于具体处境,本章不代替当事人的风险判断。它强调的是,能力与条件共同发生。不能因为规则写得完善就假定人已经能用,也不能因为人尚未敢用,就认定规则没有价值。两者需要通过实际互动接上。
九、能否在不看见全部私生活的情况下评价服务
发生学要求检查过程,隐私保护又要求保留不公开的空间,二者似乎矛盾。要判断一个个人智能体是否帮助用户成长,是不是必须查看他的全部记录?如果必须,评价本身就会侵入它声称要保护的领域;如果完全不看,又如何避免服务只凭自我宣传获得认可?这是我经济不能回避的问题。
首先,应当区分评价什么。评价工具是否按说明处理某类输入,可以在构造数据或自愿提供的限定材料上进行;评价一个用户是否觉得更能组织生活,可以听取他的报告,但不能把报告直接当作全部效果;评价具体能力是否提高,可以设计与该能力相关的任务,而不必索取无关经历。不同主张需要不同证据,不能用“为了科学”把全部个人生活变成默认材料。
林岚与服务方可以选择一个有限目标:她希望更清楚地辨认课堂沉默的不同可能原因。评价可以看她对若干经过适当处理的课堂情境如何解释,是否能提出竞争假设,是否知道需要什么后续观察。这不能测量她的整个主体性,也不应该声称测量了。但它提供了与目标有关的证据,同时保留私人反思中的其他内容。范围越明确,越容易避免评价无限扩张。
还可以让当事人参与选择可展示的过程片段,同时明确选择性展示会带来的局限。只展示成功案例可能高估效果,因此需要寻找其他补充证据,而不是简单要求全部开放。评价可以保留不同层次的可见性,由适当人员在限定条件下查看必要材料,再公开较少的信息。具体机制需要根据领域设计。本章的论点只是,完全公开与完全无法评价之间,并非只有二选一。
反对者可能指出,个人参与选择材料会使评价偏向本人。这个担忧真实存在。保护隐私不能取消证据质量要求。可回应的方向是尽量让评价任务与私人内容分离、提前约定需要的范围、保留独立复核可能,并诚实说明无法判断的部分。若某项宏大主张只有在无限索取个人记录时才可能验证,那么也许应当缩小主张,而不是扩大索取。
这一问题还帮助我们区分透明的不同对象。服务的目标、收费安排、记录用途、错误处理和退出方式,应当尽可能使使用者能够理解;这并不意味着用户自己的全部过程也必须对服务方透明。权力越强的一方,越有理由解释自己怎样影响别人。把“透明”平均要求于所有参与者,可能忽略能力与后果的差异。发生学分析必须追问谁需要向谁说明什么,以及说明如何支持实际判断。
由此,隐私保护与有效评价可以形成一种有边界的相互支持。用户知道不会因提出困难而失去全部控制,可能更愿意提供真实反馈;服务的作用得到适当检验,用户也能更有根据地决定是否依赖。反之,强制透明可能使记录越来越合规却越来越不真实。评价若只追求材料数量,最终可能破坏自己需要的材料质量。
十、三个必须正面承受的反对意见
第一种反对认为,隐私只是有资源者的奢侈。能够购买个人服务、拥有安静空间、掌握技术的人,更容易保有边界;处境困难的人可能不得不交换记录以获得帮助。若我经济只描述前一类人的美好生活,它就不能成为有广泛意义的新典范。这个反对不是枝节,而是检验理论是否把发生条件当真的关键。
对此,不能只说技术将来会更便宜。成本下降可能扩大使用,也可能扩大对个人过程的采集。真正需要研究的是,支持个体发生的最低条件怎样能够被更多人获得:可理解的工具、基本的选择空间、能够迁移的记录、对拒绝的实际承接,以及不必依靠交出全部个人过程才能获得的重要服务。这些是研究和制度设计方向,不是本章已经证明可行的一套政策。理论的普遍抱负必须接受资源差异的检验。
第二种反对认为,强调“我的知识”会破坏公共知识。每个人保留自己的过程,科学如何累积,教育如何传播,别人如何纠正错误?这个问题提醒我们,隐私不能被写成知识私有化的无限扩张。公共论断需要公共讨论,涉及他人的判断需要相应责任,来自共同工作的成果也有共同关系需要处理。但公共知识的形成,并不要求所有人的全部思想过程永久公开。成熟表达、必要证据与私人试错可以有不同位置。
进一步说,保留私人空间未必减少分享。一个人若知道未完成的念头不会立刻成为永久标签,可能更愿意长期探索,最终也更愿意贡献成熟成果。当然,这只是一个有理由的假说,不能先当作普遍效果。也可能有人长期保留却从不参与任何共同检验。发生学需要比较不同条件下的后果,而不是给隐私预先安排一个必然美好的结局。保护的正当性和某项额外生产效果,也应当分开论证。
第三种反对最为尖锐:所谓“保护我”,是否会把现有自我保护得无法改变?一个人拒绝不舒服的材料,屏蔽批评,只与迎合自己的智能体互动,可能越来越封闭。若隐私理论把一切干预都视为威胁,它就可能成为自我冻结的帮手。这个反例说明,个体性保护不等于保护每一个现成偏好不受挑战,更不等于让公开主张退出批评。
本章的回应是,保护的是能够参与改变的主体条件,而不是某一版本的自我永远胜出。人可以自愿进入有力批评,也可以为某些公开承诺承担回应义务;同时,他仍应保有与任务无关的私人过程。一个成长服务可以提出不顺耳的证据,却不必因此占有全部记忆;一个共同体可以批评公开论证,却不必把作者全部生活纳入审查。改变和边界并非互相排斥,关键在改变通过什么关系发生。
三个反对意见共同提醒我们:隐私既不是唯一价值,也不是附属小事。它与平等、公共知识、责任和成长交织。SDE若要提供更有力的解释,就必须在这些张力中显示具体机制,不能只重复“主体性重要”。一种理论的成熟,不在它能把所有反对化成自己的例证,而在它能说出哪些条件下自己的安排无效,哪些问题需要借助其他理论和专业实践继续解决。
十一、怎样设计一个支持“我继续形成”的智能体
本章最后提出一个构造性设想。林岚的个人智能体不再把所有记录合成一个固定画像,而是区分几种状态:本人明确表达的当前目标、过去的选择、系统提出的暂时推断,以及尚未决定是否共享的探索。区分这些状态,不是为了增加界面负担,而是防止不同性质的内容在后台悄悄合并。一次情绪不能轻易升级成人格结论,一项历史偏好不能未经询问就取代当前目标。
用户能够对关键推断提出异议,也能够要求某段经历不再用于后续建议。这里说的是设计目标,不是在承诺某个现有系统已经具有完全可靠的实现。技术上如何处理历史影响、复制和派生内容,可能很复杂,不能只靠一个按钮制造已经完全消除的假象。诚实的系统需要说明可以完成什么、哪些影响无法简单撤回,使用户的选择建立在真实能力上。
记录的作用也应当面向能力,而不仅面向预测。林岚希望学习怎样判断课堂,智能体可以帮助她保存一次判断如何改变、哪些解释后来被否定、什么证据还缺少。它不必把每一次私生活表达都转成可推荐的标签。记忆被组织为可反思的历史,而不是替用户规定未来的档案。这样的差别有时很细,却会长期影响人如何理解自己。
退出也是设计的一部分。服务如果宣称帮助个人成长,就应当思考当用户减少使用、转向其他工具或结束某项帮助时,已经形成的成果怎样继续被本人使用。可迁移性不仅是导出文件,还包括概念、方法和记录是否能被理解;一大包无法阅读的数据,未必真正增加行动自由。经济安排也需要与这种可结束的帮助相容,否则产品目标与用户成长之间会持续存在冲突。
与此同时,不能要求一个智能体承担全部主体性保护。家庭、学校、工作组织和公共制度仍然参与形成边界;用户自己的经验与判断也不可省略。个人工具可以提供一个较好的入口,却不能单独消除权力不对称、资源不足或社会压力。把工具能力说清楚,既防止对AI寄托过多,也让它可能完成的具体工作获得恰当位置。
怎样检验这一设想?可以先选择小范围、低风险的目标,观察用户是否更能说明自己想做什么,是否能修订系统对自己的理解,是否可以拒绝某类记录而仍获得基本帮助,是否在离开一项服务后保有可用成果。也应寻找负面结果:边界选项是否太复杂而无人使用,过度提醒是否增加负担,强调自主是否把本该由服务承担的工作推给个人。这些观察需要真实研究,本章只提出问题,不虚构答案。
十二、保护的不是过去完成的我
林岚后来公开了一篇关于课堂沉默的文章。文章里有她的观察、概念和修订,也有他人的帮助。她没有公开全部私人笔记,读者仍然能够讨论主要论证。教研组借鉴了其中一部分方法,她也在反对意见中继续改变。私人空间与公共贡献没有完全合一,也没有互相隔绝;它们通过可以辨认的边界和选择形成联系。
这一结尾并非声称所有现实问题都会如此顺利。构造情境的作用,是使一种可能结构显露,而不是替它提供经验保证。现实中的服务成本、技术限制、权力关系和共同责任,都可能使这种结构难以维持。SDE入门书应当让读者看见可能性,也看见必须继续工作的地方。一个新经济典范不能仅凭新的名称出现,它需要在具体安排中证明自己确实支持了不同的生活和能力。
本章把隐私放回发生过程,是为了避免只在伤害已经明显时才看见它。一个人不再敢记下疑问,不再愿意尝试未完成的解释,不再相信自己可以改写过去的标签,这些变化也许没有立刻产生一个醒目的事件,却可能逐渐改变他能够成为怎样的人。保护个体性,就是认真对待这些条件,同时不取消共同生活与公共责任。
“我”不是与世界断绝联系的孤岛,也不是任何网络都可以任意调用的节点。人的形成依赖互动,人的继续形成同样可能需要对某些互动说暂时不、对某些共享设限、对某些标签要求重新解释。拒绝和进入都可以成为发生的一部分。判断哪一种关系何时适合,正需要上一章讨论的复合判断能力,也需要本章强调的实际选择空间。
当AI越来越能够记忆、推断和参与生活,隐私的重要性便不仅在于挡住一次窥视。它还在于使人与智能体的复合,不至于让个人的过去永久替他决定未来;使“我的知识”能够被帮助形成,而不必以失去对形成过程的参与为代价;使我经济所说的个人成长,成为经济活动的真实目标,而非更精确读取个人的另一种名称。
因此,隐私保护与我的诞生,是一个相互关联的发生问题。边界让探索得以开始,探索又使人重新理解需要怎样的边界;工具可以参与其中,共同体也可以承接这种形成。我们要继续追问的不是如何保存一个永不改变的我,而是怎样让改变仍然能够与这个人的理解、选择和承担保持联系。一个值得进入的AI未来,应当给这种联系留下真实的位置。