专著母题 · 德麦国际专著第 357 号
《分割之错》
怕 AI 的与跪 AI 的用的是同一张地图:把正在发生的人—AI 复合体,当成两个已经完成的实体来处理。
一、它推翻的默认看法
默认看法是:关于 AI 的流行说法彼此对立,所以要在其中选边,或者取个折中。怕它抢饭碗的、怕它醒来反叛的、主张封禁的,被看作一端;说它只是工具的、只求更快的,被看作另一端;追问意识的、把它的话当圣旨的、等技术送来未来的、说"用 AI 写的不算你的"的、多考几个证想挡住它的,又各是一端。大家默认争论的是"人和 AI 谁对谁错、边界划在哪"。
本书指出,这些争论共享一个未被说出的前提:人和 AI 在互动开始之前就各自是完成的成品。怕,是怕那一边吃掉这一边;防,是在中间砌墙;用,是让箭头从人指向机器;跪,是反过来。座次可以换,箭头可以掉头,地图不换,所以怎么争都出不了框。错的不在某一种思潮的具体主张,而在它们共同的动作。
二、母题怎样立起来
出发点是日常画面:两个人抬沙发下楼梯,卡在拐角。拐弯这件事不在上面的人身上,也不在下面的人身上,在两个人一起动的几十秒里;每个人蹲多低、斜多少,是被对方一点点改出来的;事后问"功劳算谁的",分不清,也没有必要。把画面搬到人与 AI 的来回上:一段好想法不在人身上也不在机器身上,在来回里;提问的方式塑出一种"人",回应塑出一种"AI",每一次一问一答都在重新画两端的边。
由此得到判词:十种思潮都看见了眼前这件正在发生的事,这是它们共同的动作;一伸手就把它切成"人"和"AI"两半,各自完成,这是共同的代价,复合体里正在长出来的东西就看不见了。书把这个动作叫"本体性分割",口语叫"那一刀"。检验的办法只有一个,每章换一个刀口:价值、意志、边界、方向、目的、内里、判断权、未来、归属、材。判别所用的尺子是发现还是发生:十种思潮几乎都用发现的眼光,找人"原来"的价值、"本来"纯正的人、机器里"本来"有没有心;而东西是在来回里长出来的。
最后一步是不切之后:每种担心都留下一样好东西,十样不需要那一刀也站得住;需要警惕的风险(谁越来越离不开它、谁借它攥权、出了错找不到负责的人)恰恰长在两端缠在一起的地方,切开反而看不见。书同时守一条纪律:讲出路时,不许把人写成先在的、去驾驭一切的发动者。
三、核心构念
- 本体性分割(那一刀):把正在发生的复合体当成两个已经完成的实体来处理;十种思潮的共同动作,也是全书判词。
- 人—AI 复合体:一场正在进行的来回,不是人用 AI,也不是 AI 替人,是两端在来回里一起显出形状;书自认"体"字太结实,取"一点一点出来"的一面。
- 发现与发生:全书唯一的尺子;发现是东西早在那里被找到,发生是东西在来回里长出来;反对的是"先在",不是事实。
- 互动先于两端:两端的边是来回画出来的,离开来回画不出;与"产出无法归户"相连,即一段产出拆不清哪句是谁的。
- 作弊感与荣耀搬家:作弊感里很大一部分是"自我"在作祟,思考曾是人身上最亮的地方,错记的是光的来处。
- 回写三处:工具回头改人的账不在一根箭头上,而落在三个地方,两头都在互相留印子。
四、全书骨架
前言、导读、导论之后分四编十章,四编的顺序本身是一条路:从对手,到器具,到偶像,到账本。第一编"对立:把 AI 当对手"含替代恐慌、末日失控、封禁隔离三章;第二编"器具:把 AI 当死物"含工具中立、效率至上(附提示词万能论)两章;第三编"偶像:把 AI 当成品神"含意识之争、神谕崇拜、技术决定三章;第四编"归属:拆账与守旧"含作弊论、技能囤积两章。每章先把该思潮的话说足、还它公道,再指出刀口,再看不切之后复合体里正在长出什么,并带走一句话。导论讲那一刀切在哪里,结语"复合体在显影"归还十样好东西并自陈最弱三处,另有参考书目、附录四件和后记。
五、关键案例与证据
- 第1章:织袜机、马车夫,价值在人与工具和一座城的磨合里重新算出;陪读人物排版师傅姜师傅(虚构)担心被自动排版减去一块。
- 第2章:从《弗兰肯斯坦》到泥人与"机器人"一词,反叛的底色;一封寄错几万户人家的信、一条原地打转的船,用来对照天边的怪物。
- 第3章:孩子在与妈妈、老师、书、铅笔橡皮的来回里长出边界;计算器进教室的往事,说明墙会反过来捏人。
- 第5章:电动机刚进老厂房只去转蒸汽机的旧铁轴,收益很小,直到厂房布局被重想。
- 第6章:下棋的土耳其人、图灵换问题、庄子与惠子濠水桥上的"鱼之乐"。
- 第7章:跟着导航开进河里的司机,缺的是与导航之间的来回。
- 第8章:1858年海底电缆、毕昇泥活字、县城远程诊室里老人那一刻钟。
- 第9至10章:埃及国王的话、封面上没有名字的人、《学记》"先知其心"。
- 书中历史故事只取大意,多处标〔待核〕,汇总于附录四;姜家三代均为虚构。
六、碰撞接口
- 可抽出的命题:(1)凡把人与 AI 先摆成两个成品再问关系的立场,皆共享同一张地图,座次与箭头的改变不改地图;(2)一段在人—AI 来回中生成的产出,不是人的份额加机器的份额,而是互相改写动作后才冒出来的一件事;(3)问题不是去找人原来的位置,而是看新的位置怎样在来回里长出来;(4)每种担心留下的好东西,不依赖那一刀也成立。
- 可相撞的方向:与任何"归属拆账"的制度相撞,如署名、版权、责任认定、考试公平,可撞点是责任作为复合体中长出的位置,能否落成可用规章;与意识研究、哲学上的主客二分和知觉理论相撞,检验"互动先于两端"是否只是换一种说法;与带强实证要求的 AI 影响研究相撞,书自认画面多、统计少,是可被撞的软处。
- 站内邻书:第366号《思考是谁的?》,跨界,展开第9章的作弊感与荣耀搬家;第359号《风动,幡动,还是心动?》,同向;第316号《主体间性的发生学入门》,同向,互动先于两端的哲学底;第369号《典范发生学》,同向。
七、边界:什么情况下算错
书在结语写有推翻条件,核心一条是:若找到一种情形,人和 AI 的边界在互动之前就能画清,且一两年内不改,则"互动先于两端"站不住。书自认三处软:一是词,"体"字太结实,容易让读者以为复合体也是成品,书自己可能在自己的刀上滑了一下;二是证据,历史故事取大意并标待核,人—AI 复合体才走了几年,画面证不了往后怎样长;三是责任,说责任是复合体里长出来的一个位置、制度要给它留地方,但离能用的规章还很远。书还划明发生学反对的是先在,不是事实:发生过的事改不了,具体岗位消失和代价也不是虚构。