每日更新 · 教育深度

当AI给孩子精准推送一切: 个性化,还是更柔软的牢笼?

——七道风险,与一条不能让渡的底线
王德生 · 据《SDE教育发生学导论》· 约两万字 · 全文约 7,800 字 · 三种阅读模式

先描绘一个已经到来、或正在到来的场景。你的孩子打开一个学习软件,里面有一个无比"懂"他的AI:它清楚地知道他哪个知识点薄弱,于是精准地推送最适合他的练习;他偏爱看图,它就多用图像来讲解;他一拖延,它立刻提醒;他写作文卡壳,它瞬间给出漂亮的范文;他一有疑问,它秒回一个清晰的答案。整个过程,高效、流畅、量身定制,仿佛给每个孩子都配了一位不知疲倦、绝对耐心、无所不知的私人教师。这难道不是教育的理想国吗?

面对这个场景,做父母的心情是复杂的。一方面,你被它的强大和便利打动,忍不住想:这么好的工具,不用岂不是让孩子吃亏、落后?另一方面,你心里又隐隐有一丝不安,却说不清那不安从何而来——好像哪里不太对,又好像杞人忧天。于是你陷入纠结:到底要不要让孩子用AI?用多少?会不会有什么看不见的代价?

这篇文章想帮你把那丝说不清的不安,说清楚。它的核心观点是:AI进入教育,最大的风险,恰恰藏在它最诱人的那些优点里。以"个性化""精准""高效""智能"之名,AI有可能把一个孩子的成长道路,固化得比以往任何时候都更深——只不过,这一次的固化,不是靠冰冷的强制,而是靠贴心的服务;不是一个看得见的铁笼,而是一个看不见的、柔软的、你甚至舍不得挣脱的丝笼。

请注意,这不是一篇"反对AI"的文章。AI是这个时代了不起的力量,用好了,它能成为教育的巨大助力。这篇文章要做的,是帮你建立一种清醒:看清那七道最容易被忽略的风险,守住那一条最不能让渡的底线。因为一件事越强大、越诱人,我们就越需要清醒地使用它——否则,强大就会反过来伤害我们。

文章分三步:上篇,逐一拆解AI教育的七道风险;中篇,厘清一个根本问题——AI在教育里,到底该站什么位置;下篇,给出那条底线,以及一个可以随身携带的判断标准。

第一道:画像,可能把孩子锁进过去

AI教育的第一道风险,是"画像固化"——AI给孩子画的那幅"精准画像",可能反而把他锁死在过去的样子里。

AI最引以为傲的能力之一,就是给每个孩子建立精准的"画像":他数学薄弱,他偏爱图像,他容易拖延,他阅读速度慢……基于这幅画像,AI提供"个性化"的服务。听起来很美好。但这里藏着一个陷阱:一幅画像,画的永远是"过去的"和"现在的"他,而一个孩子最宝贵的,恰恰是他"将来可能成为的"样子。

问题就出在这里。一个孩子过去数学薄弱,AI基于这幅画像,便持续给他推送简单的、低水平的练习——于是他就可能长久地被"困"在低水平的路径上,那幅"数学薄弱"的画像,反而成了一道让他走不出去的墙。一个孩子偏爱图像,AI便永远用图像喂他,结果可能削弱了他本该发展的、面对抽象文字和符号的能力。一个孩子拖延,AI便给他贴上"低自律"的标签来管理他,却没有人去追问:他为什么拖延?是不是这件事本身,已经压抑了他的兴趣和动力?

你看,这幅"精准画像"的危险在于:它把一个人某个"暂时的、局部的"状态,固化成了一个"持续的、被反复强化的"标签,然后围绕这个标签,为他打造了一个越来越窄的世界。它以"了解你"为名,却可能让孩子失去了"成为另一个自己"的机会。真正健康的做法应该是:任何一幅画像,都必须是开放的、可以修改的、可以被遗忘的、可以被孩子和老师质疑的——它是一个暂时的参考,而不是一道永久的判决。可惜,一个一味追求"精准"的AI,天然倾向于把画像画得越来越"死"。

第二道:推荐,可能让孩子失去"自己找路"的能力

AI教育的第二道风险,是"推荐替代自由"——AI越是贴心地帮孩子把路都铺好,孩子可能越是失去了自己找路、走路的能力。

AI很擅长"推荐":你需要什么资料,它帮你找到;你该学什么,它帮你规划;下一步做什么,它帮你安排。它像一个无比高效的导航,你只需要跟着走就行。这似乎给了孩子极大的便利,甚至是"自由"——不用再费力去找、去选了。但这里要辨析一个关键问题:什么是真正的自由?

真正的自由,绝不是"有人把所有选项都摆好、让你伸手就拿"。真正的自由,是一个人能够自己去理解一条路、自己去判断一条路、自己去开创一条路、并且自己去承担走这条路的后果。这是一种能力,而且是一种需要在反复的"寻找、比较、迷路、判断、选择"中,才能一点点练出来的能力。

而AI的"推荐",恰恰可能剥夺了练就这种能力的机会。当孩子习惯了AI帮他找资料,他可能就失去了自己在浩瀚信息里搜寻、鉴别、取舍的本领;当他习惯了AI帮他规划路径,他可能就失去了自己面对岔路口、权衡利弊、做出选择的能力;当他从不需要"迷路",他也就永远学不会"如何在迷路中找到方向"——而这,恰恰是人生最重要的能力之一。AI用"替你选好"的便利,悄悄换走了孩子"自己会选"的能力。它给的是选项,拿走的是选择力;它给的是便利,拿走的是自由的根基。

好的做法是什么?是让AI的推荐,成为孩子学习如何选择的"训练场",而不是代替他选择的"替身"。比如,AI可以提供几种不同的路径,然后让孩子自己去比较、去判断该走哪一条,并说出理由;而不是直接告诉他"你就走这条"。前者是在培养自由,后者是在替代自由。

第三道:生成,可能让孩子跳过"真正学习"的全过程

AI教育的第三道风险,是"生成替代创造"——这也是最直接、最致命的一道。AI能瞬间生成一切:作文、代码、报告、方案、甚至"读后感"和"反思"。而当孩子用生成的结果,跳过了自己本该经历的全过程,教育就在这一刻,被悄悄掏空了。

要理解这一道风险有多严重,得先回到一个根本问题:一个人是怎么真正学会、真正成长的?前面的文章讲过,真正的学习,是要亲自走一条完整的路的——遇到一个真正困扰自己的问题,大胆地猜想,动手去尝试,得到反馈,发现错误,自己修正,如此反复,最终可能创造出属于自己的、新的理解。这条路——问题、猜想、尝试、反馈、修正——就是学习真正发生的地方。一个人的思考力、创造力、解决问题的能力,全都是在亲自走这条路的过程中,一点点长出来的。

而AI的"生成",提供了一条极其诱人的捷径:它让孩子可以绕过这整条艰难的路,直接得到一个漂亮的结果。作文不会写?AI生成一篇。代码不会敲?AI写好了。方案没思路?AI列得清清楚楚。孩子交上去的东西,看起来完美无缺。可问题是:那个本该在"亲自走这条路"的过程中得到锻炼的孩子,什么都没有经历。他没有经历过面对空白页的困惑,没有经历过冥思苦想的猜想,没有经历过一次次尝试和失败,没有经历过在错误中修正——而这一切,恰恰是教育的全部价值所在。他得到了一个结果,却失去了那个能让他成长的过程。

这就是为什么说"生成替代创造"是最致命的:因为它直接抽掉了学习的核心。如果孩子习惯了用AI生成来完成一切,那么他看起来在高效地"产出",实际上却在系统性地丧失最宝贵的能力——独立思考的能力,面对困难的能力,从无到有创造的能力。他成了一个熟练的"结果获取者",却不再是一个真正的"学习者"和"创造者"。这不是危言耸听,而是正在很多地方悄悄发生的事。

那AI在这里就一无是处吗?不。关键在于,让AI进入学习的过程,而不是替代学习的过程。AI可以在孩子思考时,给他提供一些不同的材料、反例、比较的角度、反馈的建议——像一个陪练,帮助他更好地走那条路;但绝不能替他把那条路走完。AI可以陪孩子一起想,但不能替孩子想完;可以帮孩子磨砺,但不能替孩子创造。

第四道:即时反馈,可能制造持续的焦虑

AI教育的第四道风险,是"反馈制造焦虑"——AI那种即时、密集、事无巨细的反馈,可能反而让孩子失去自我评估的能力,并陷入一种被持续监控的焦虑。

AI能提供即时反馈,这本是好事:做错一道题,立刻知道错在哪;写了一段话,马上得到点评。相比过去要等老师批改的漫长等待,这似乎是巨大的进步。但凡事过犹不及。当反馈变得过密、过快、过细——孩子的每一个动作、每一步、每一秒,都被即时地评判、记录、反馈——问题就出现了。

第一个问题,是孩子会失去自我评估的能力。一个人成长中很重要的一课,是学会自己判断"我做得怎么样"——自己回看,自己反思,自己掂量。这种自我评估的能力,需要在"没有外部即时反馈"的空间里,才能慢慢练就。可如果AI永远在旁边即时地告诉他"对了""错了""这样更好",孩子就永远不需要自己去判断了——他会变得完全依赖那个外部的声音,一旦离开它,就不知道自己做得好不好。他失去的,是那个最重要的"内在的尺子"。

第二个问题,是一种持续被监控的压迫感。当一个人的每一个细微举动都被记录、被评判,他会不自觉地进入一种紧张的、时刻被审视的状态。这种状态下,人很难放松地、自由地探索,更难享受学习本身的乐趣——因为他总感觉有一双眼睛在盯着,总担心下一秒的评判。本该是滋养成长的反馈,变成了一道无形的"评价围栏",把孩子圈在持续的焦虑里。

好的反馈,应该是"服务于成长",而不是"制造焦虑"的。它应该在孩子真正需要的时候出现,帮助他修正、帮助他前进,并且给他留下足够的、可以自己琢磨、自己判断、自己喘息的空间;而不是像一个永不关闭的监控探头,把他每一秒都框在评价的目光里。反馈的目的,是让孩子最终不再需要反馈——是培养他自己评估自己的能力,而不是制造一个离开反馈就寸步难行的依赖者。

第五道:效率,可能吞噬掉教育里的"美"

AI教育的第五道风险,是"效率吞噬美"——AI对"最短路径""最高效率"的极致追求,可能吞噬掉教育里那些看似"低效"、实则无比珍贵的东西。

AI的一个核心本领,是优化——找到最快、最直接、最高效的那条路径。用它来送外卖、算路线,这是天大的好事。但教育,不是物流配送。教育里,恰恰有很多最珍贵的东西,是"低效"的、是"绕路"的、是无法被"优化"掉的。

想一想,一个人在学习和成长中,那些最动人、最有价值的时刻是什么?常常是:在一个问题前长久地停顿和琢磨;为了搞懂一件事而绕的那些远路(那些"没用"的探索,反而让理解变得立体);突然想通一件事时那种惊讶和喜悦;为了等待灵感而经历的那段看似一无所获的等待;以及,领略到一个知识、一个结构、一个思想本身的那种美感。这些东西,从"效率"的角度看,全都是应该被消灭的"浪费"——它们太慢了,太绕了,太没有"产出"了。

可正是这些"低效"的东西,构成了教育里最有营养、最有魅力、最能滋养一个人心灵的部分。一个只追求效率的AI,会本能地把这些全部"优化"掉:它会给你最短的路径,让你不必绕路;它会给你最直接的答案,让你不必停顿和琢磨;它会让一切都变得高效、顺畅、no浪费。可当它这样做的时候,它也就抽干了教育里的诗意和美感,把一场本该充满探索之趣、发现之喜、思考之美的旅程,变成了一条冰冷高效的、只为抵达终点的传送带。孩子在这条传送带上"高效"地前进,却再也体验不到停顿的深味、绕路的风景、想通的狂喜。他学得很快,却失去了对学习本身的爱——因为爱,往往正是在那些"低效"的时刻里,悄悄生长出来的。

第六道:AI越强,老师可能越"退化"

AI教育的第六道风险,把目光从孩子转向老师:"教师退化"——AI越强大,老师就越可能被降格成一个操作机器的"打杂的",而丢失了他最核心、最不可替代的价值。

随着AI越来越能干——能备课、能出题、能批改、能答疑、能生成教案——一个危险的趋势可能出现:老师的角色,被一步步地"矮化"。他不再是那个用自己的学识、经验、智慧和情感去点燃学生的"教育者",而慢慢变成了一个给AI"打下手"的角色:一个输入指令的"提示词操作员",一个核对AI输出的"数据审核员",一个执行算法建议的"流程操作工"。他要做的,似乎只是熟练地操作这套AI系统,让它高效地运转。

这是极其可惜、也极其危险的。因为老师身上,有一样东西是AI永远无法替代的,那就是基于对"人"的深刻理解而做出的教育判断。一个好老师,能看见AI的画像永远看不见的东西:他能从一个孩子的眼神里,读出他今天是不是遇到了什么困扰;他能凭直觉判断,眼前这个孩子此刻最需要的,是一道更难的题,还是一句鼓励的话;他能在恰当的时机,用一个眼神、一句话,点燃一个孩子对某个领域一生的热爱。这些,是活生生的、充满温度和智慧的教育判断,是任何算法都给不出的。

如果我们让AI越强、老师越退化,最终的结果,是丢失了教育中最珍贵的"人"的部分。健康的方向,恰恰相反:应该让AI去增强老师,而不是替代老师。AI可以把老师从那些繁琐重复的劳动(批改、统计、找资料)里解放出来,让老师有更多的时间和精力,去做那件只有他能做的事——去真正地看见每一个孩子,去和他们建立真实的连接,去用自己的智慧和热情,守护和点燃他们。AI应该是老师手里的工具,让老师这个"人"变得更强大;而不是反过来,让老师沦为AI的附庸,变得越来越"不像一个教育者"。

第七道:少数平台,可能垄断所有孩子的成长之路

AI教育的第七道风险,超越了个体,指向一个更宏观的隐忧:"平台垄断"——教育这件关乎每个孩子、关乎整个社会未来的事,可能被少数几个技术平台,通过它们的AI系统,悄悄地垄断和主宰。

设想一下,如果绝大多数孩子的学习,都通过少数几个巨头公司的AI教育平台来进行,会发生什么?这些平台,通过它们的模型,决定着孩子们学什么、怎么学、看到什么内容;通过它们的算法,塑造着孩子们的学习路径和思维方式;通过它们的评价体系,定义着什么是"好"、什么是"成功";通过它们掌握的海量数据,洞悉着每一个孩子的一切。那么,这些平台,就在事实上,掌握了塑造下一代人心智的巨大权力。

这种权力的集中,是危险的。教育本应是丰富多元的——不同的思想、不同的方法、不同的价值,百花齐放,让每个孩子都能找到适合自己的路,让整个社会保持思想的活力和多样性。可一旦教育的道路被少数平台垄断,这种丰富多元就可能消失:所有孩子,都被同一套算法、同一种逻辑、同一个价值标准所塑造,像同一条流水线上生产出来的产品。这不仅可能扼杀个体的独特性,更可能让整个社会的思想,趋于单一和同质——而思想的单一,是一个社会最深的危机。

更何况,这些平台首先是商业公司,它们的核心目标,未必与教育的本义完全一致。当"如何让用户停留更久""如何提升商业指标"这样的逻辑,渗透进教育系统,孩子的成长,就可能在不知不觉中,让位于商业的算计。教育是一件太重要、太关乎公共利益的事,它的主导权,不应该、也不能够,被交到少数以盈利为目标的平台手中。这需要整个社会——包括教育者、家长、政策制定者——保持警惕,共同守护教育的公共性、多样性和自主性,不让它被任何单一的力量所垄断。

AI不是道路的主宰,是道路的"帮手"

七道风险看下来,也许有父母会心生恐惧:那是不是干脆别让孩子碰AI了?但这同样是错的。要走出"要么全盘拥抱、要么彻底排斥"的两难,我们必须回答一个更根本的问题:AI在教育里,到底应该站一个什么样的位置?把这个位置摆正了,前面所有的风险,就都有了应对的总纲。

先看一个最常见、也最危险的误区:把AI仅仅当成一个"更强的知识库""更快的答疑机""更廉价的老师"。在这个定位下,AI的作用,就是让"答案"变得唾手可得。可是,教育的核心,从来不是"得到答案",而是"经历那个通向答案的过程"。一个让答案变得越来越容易得到的AI,如果用错了,恰恰可能让那个最宝贵的"过程",变得越来越不必发生。这就是把AI定位成"答案机器"的根本危险——它服务的是结果,而伤害的是过程。

那么,AI正确的位置是什么?一个更恰当的比方是:AI不应该是那个替孩子走路、甚至规定孩子走哪条路的"主宰",而应该是那个在孩子自己走路时,能帮上忙的"帮手"和"陪伴者"。这两个定位,有着天壤之别。

作为"主宰",AI替孩子把问题想好、把路径定好、把答案生成好,孩子只需被动地接收和执行——这时,孩子是AI的"附庸",他自己的成长过程被架空了。而作为"帮手",AI是在孩子自己面对问题、自己思考、自己探索的过程中,提供恰到好处的协助:当孩子需要一些不同的材料时,它帮忙提供;当孩子想不通、需要一个新角度时,它给一点启发;当孩子想验证自己的想法时,它给一些反馈。在这个定位下,孩子始终是那个走路的人、思考的人、成长的主角,而AI,是那个跟在旁边、随时能搭把手,却绝不越俎代庖的伙伴。

关键的分界:它有没有"替孩子发生"?

摆正了"帮手"这个大方向,还需要一把更锋利的、可以随时使用的判断标准。因为在实践中,AI的很多用法是含混的,介于"帮手"和"主宰"之间,让人拿不准。这里,给你一条极其锋利的分界线,记住它,几乎所有的纠结都能迎刃而解。

这条分界线是:看AI有没有替孩子,完成那个"必须由他自己亲历才有意义"的核心环节。

换句话说,判断AI用得对不对,不看别的,就看一件事:它是帮助孩子完成了那个核心的成长过程,还是替代孩子跳过了那个过程?我们前面反复说,学习真正发生在"问题、猜想、尝试、反馈、修正"这条亲历之路上。那么:

AI可以帮孩子理解一个问题,但不能替孩子拥有那个问题——那份困惑,必须是他自己的。AI可以给孩子一些猜想的材料,但不能替孩子做出猜想——那个大胆的假设,必须是他自己提的。AI可以陪孩子一起尝试,但不能替孩子消除尝试中所有真实的阻力——那些磕磕绊绊,正是成长的养分。AI可以给孩子反馈,但不能垄断判断、让孩子失去自己评估的能力。AI可以建议孩子怎么修正,但不能孩子完成那个修正——改正的过程,必须是他自己走的。

你看,同样是"用AI",区别全在这里:如果AI进入的是这些环节的"辅助"位置(提供材料、给点启发、当个陪练),帮助孩子更好地自己完成这些环节——那就是好的,是"帮手"。但如果AI直接孩子完成了这些环节(替他拥有问题、替他猜想、替他创造、替他判断、替他修正),让孩子跳过了亲历——那就是危险的,是"主宰",教育就在那一刻被掏空了。这条线,就是那把最锋利的尺子:AI有没有替孩子,完成那些他本该亲自完成的事?

不是"能不能用",而是"用在哪个环节"

现在,可以来回答开头那个让无数父母纠结的问题了:到底要不要让孩子用AI?用多少?

看完前面,你应该已经明白:这个问题,本身就问错了。"要不要用""用多少"——这是把AI当成了一个有固定好坏、可以量化多少的东西,仿佛用得少就安全、用得多就危险。但真相是,AI用得对不对,和"用多少"关系不大,和"用在哪里"关系极大。

一个孩子可以大量地使用AI,但如果他每一次用,都是让AI当"陪练"——自己先苦苦思考,卡住了再找AI要点启发;自己先动手尝试,再让AI帮忙看看哪里可以改进;自己先形成判断,再和AI讨论碰撞——那么,他用得越多,可能收获越大,AI真正成了他成长的强大助力。反过来,一个孩子哪怕只是偶尔用AI,但如果他每一次用,都是让AI当"替身"——作文让它写,难题让它解,思考让它代劳——那么,哪怕用得很少,也是在一次次地掏空自己的成长。决定AI是天使还是陷阱的,从来不是用量的多少,而是它进入了孩子学习过程的哪个位置。

所以,与其纠结"要不要用、用多少",父母和老师真正该做的,是帮助孩子建立一种正确的"用法"和"习惯":让他懂得,AI是用来帮助自己思考的,不是用来代替自己思考的;是用来当陪练的,不是用来当替身的。要培养孩子一个宝贵的自觉——在每一次伸手求助AI之前,先问问自己:我这是遇到了真正需要外部帮助的坎,还是只是想偷懒、想跳过那个本该我自己完成的过程?把这个判断力交给孩子,远比简单地"禁止"或"放任",都更为重要。因为技术只会越来越强、越来越无处不在,我们不可能永远替孩子把关,唯一可靠的,是让孩子自己心里,长出那把尺子来。

那条不能让渡的底线

说到最后,让我们把所有的讨论,收拢成一条最根本、最不能让渡的底线。无论技术怎么发展,无论AI变得多么强大,这条底线都不能破:

AI可以做任何事,唯独不能替孩子,完成那个"自己想、自己错、自己改"的核心过程。

这条底线,为什么如此重要?因为一个人之所以能成为一个独立的、有思想的、有创造力的、能对自己人生负责的人,靠的正是无数次"自己想、自己错、自己改"的亲身经历。是那些自己冥思苦想终于想通的时刻,塑造了他的思考力;是那些自己犯了错、承受了后果、然后改正过来的时刻,塑造了他的判断力和责任感;是那些自己从无到有创造出一点什么的时刻,塑造了他的创造力和自信。这个"自己经历"的过程,是任何人、任何技术都无法代劳的——因为它塑造的,是那个人本身。你可以替他得到一个结果,但你永远无法替他成为一个人。

而AI最大的诱惑和最大的危险,恰恰在于:它让"替孩子完成这个过程"变得前所未有的容易和诱人。它可以让孩子毫不费力地得到一切结果,从而,让那个塑造他成为"人"的核心过程,变得仿佛不再必要。如果我们守不住这条底线,任由AI替孩子把该想的想了、该错的错了、该改的改了,那么我们收获的,可能是一群拥有完美结果、却从未真正成长过的空壳——他们什么都"有",却唯独没有经历过那个让自己成为自己的过程。

所以,守住这条底线,是AI时代教育最核心的任务。它意味着:我们欢迎AI成为孩子成长路上强大的帮手,让它去承担那些繁琐的、辅助性的工作,去扩展孩子的视野和资源;但我们必须寸步不让地守护住那个核心——让孩子自己去面对困惑,自己去大胆猜想,自己去尝试和犯错,自己去判断和修正,自己去创造。因为教育的终极目的,从来不是培养一个"什么都能得到"的人,而是成全一个"自己能够生长"的人。而这份生长,只能由他自己完成。

让工具,回到工具的位置

把这篇长文收拢成几句话。

AI进入教育,最大的风险不在别处,恰恰藏在它最诱人的优点里:以个性化、精准、高效、智能之名,它可能把一个孩子的成长之路,固化成一个比以往更柔软、更细密、也更难挣脱的牢笼。画像可能锁死孩子的未来,推荐可能夺走他找路的能力,生成可能让他跳过真正的学习,反馈可能制造焦虑,效率可能吞噬美,而老师可能退化、平台可能垄断——七道风险,道道柔软,却道道深刻。

但出路,不在于恐惧地排斥AI,而在于清醒地摆正它的位置:让AI回到"帮手"的位置,而不是"主宰"的位置;让它服务于孩子自己的成长过程,而不是替代那个过程。而检验的标准,就是那把最锋利的尺子——AI有没有替孩子,完成那个"必须由他自己亲历才有意义"的核心环节?守住的底线,就是那条最根本的红线——AI可以做任何事,唯独不能替孩子,完成那个"自己想、自己错、自己改"的过程。

说到底,AI是一件了不起的工具,而工具的价值,永远取决于使用它的人,是否清醒。一把好刀,可以用来做菜,也可以伤人;AI这把无比锋利的刀,用好了,能极大地拓展孩子成长的空间,用错了,则可能悄悄地把他成长的根基掏空。而这中间的分野,不在刀,在握刀的手,在那颗是否清醒的心。

愿我们都能有这份清醒:满怀热情地拥抱AI带来的可能,又坚定不移地守护那些不能让渡的东西。让工具,回到工具的位置;让孩子,始终是他自己成长的主角。因为无论技术如何日新月异,教育那个古老的本义,从未改变——它不是把一个人塑造成符合标准的产品,而是成全一个独一无二的生命,让他自己,长成他自己。

AI可以照亮孩子的路,
但那条路,得让他自己走。


材料与印证

本文的诊断针对真实存在的制度现象。下列材料给出可查证的出处与数据来源,读者可循以复核;文中所有具体人物场景均为构拟示例,不冒充田野记录。

  • 个性化推荐的既有研究基础。推荐系统的反馈回路与同质化效应有可查证的研究传统:过滤气泡(Pariser, 2011)虽在实证上存在争议,但算法反馈回路导致内容窄化的机制在推荐系统文献中有形式化讨论(如 Chaney, Stewart & Engelhardt, 2018,RecSys 会议论文关于算法混淆与同质化的模拟研究)。本文引用时如实呈现该领域的争议状态。
  • 自适应学习系统的效果证据。自适应学习系统的效果有元分析支持,但效应量通常中等且高度依赖实施情境(如 Ma et al., 2014,《Journal of Educational Psychology》关于智能辅导系统的元分析)。本文因此不否认其效用,而是追问一个不同的问题:被优化的目标函数省略了什么。
  • 构拟示例的声明。文中的儿童使用场景为构拟示例。所引研究均给出出处,二者严格分开。

论证的骨架

把本文的说服力压到最紧,它是一条可被逐环检验的推理链,每一环都可以被单独反驳:

  1. 前提一:个性化系统必须依据某个可计算的目标函数运作(正确率、完成率、参与时长等)。
  2. 前提二:任何可计算的目标函数都必然省略无法被计算的项——包括困惑的存续、无用的岔路、以及尚未成形的兴趣。
  3. 推断:因此系统越有效地优化其目标,被省略项遭受的挤压越彻底。牢笼之所以柔软,正因为它在自己的度量上确实是好的。
  4. 结论:问题不在技术本身,而在目标函数的选择权与省略项的保护。反驳本文只需证明:目标函数可完备涵盖教育所需,或省略项不受优化强度影响。

一个处处顺着你的系统,不会让你撞墙,也不会让你长出翻墙的力气。

参考文献

实证文献择其可公开查证者;凡本文未采信之争议性证据,已在正文中标明。

  1. Pariser, E. (2011). The Filter Bubble: What the Internet Is Hiding from You. New York: Penguin Press.
  2. Chaney, A. J. B., Stewart, B. M., & Engelhardt, B. E. (2018). How Algorithmic Confounding in Recommendation Systems Increases Homogeneity. Proceedings of the 12th ACM Conference on Recommender Systems, 224–232.
  3. Ma, W., Adesope, O. O., Nesbit, J. C., & Liu, Q. (2014). Intelligent Tutoring Systems and Learning Outcomes: A Meta-Analysis. Journal of Educational Psychology, 106(4), 901–918.
  4. VanLehn, K. (2011). The Relative Effectiveness of Human Tutoring, Intelligent Tutoring Systems, and Other Tutoring Systems. Educational Psychologist, 46(4), 197–221.
  5. Bjork, R. A., & Bjork, E. L. (2011). Making Things Hard on Yourself, But in a Good Way. In M. A. Gernsbacher et al. (Eds.), Psychology and the Real World (pp. 56–64). New York: Worth.
  6. D'Mello, S., Lehman, B., Pekrun, R., & Graesser, A. (2014). Confusion Can Be Beneficial for Learning. Learning and Instruction, 29, 153–170.
  7. Sweller, J. (1988). Cognitive Load During Problem Solving. Cognitive Science, 12(2), 257–285.
  8. Deci, E. L., Koestner, R., & Ryan, R. M. (1999). A Meta-Analytic Review of Experiments Examining the Effects of Extrinsic Rewards on Intrinsic Motivation. Psychological Bulletin, 125(6), 627–668.
  9. Selwyn, N. (2019). Should Robots Replace Teachers? Cambridge: Polity Press.
  10. Williamson, B. (2017). Big Data in Education: The Digital Future of Learning, Policy and Practice. London: Sage.
  11. Zuboff, S. (2019). The Age of Surveillance Capitalism. New York: PublicAffairs.
  12. O'Neil, C. (2016). Weapons of Math Destruction. New York: Crown.
  13. Holmes, W., Bialik, M., & Fadel, C. (2019). Artificial Intelligence in Education. Boston: Center for Curriculum Redesign.
  14. Baker, R. S. (2016). Stupid Tutoring Systems, Intelligent Humans. International Journal of Artificial Intelligence in Education, 26(2), 600–614.
  15. Papert, S. (1980). Mindstorms: Children, Computers, and Powerful Ideas. New York: Basic Books.
  16. Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. New York: Basic Books.
  17. Carr, N. (2010). The Shallows: What the Internet Is Doing to Our Brains. New York: W. W. Norton.
  18. Hattie, J. (2009). Visible Learning. London: Routledge.
  19. UNESCO. (2023). Global Education Monitoring Report 2023: Technology in Education. Paris: UNESCO.
  20. Luckin, R. (2018). Machine Learning and Human Intelligence: The Future of Education for the 21st Century. London: UCL IOE Press.

补篇 · 约 2.9 千字

延伸材料与论据

上节「材料与印证」已锚定本文对原典的每一处断言,此处再往下补一层——此处把每一步判断落到可核查的材料上——数据、研究、文本出处与具体案例。凡估值有区间者一律标出区间,凡属推测者一律注明是推测,凡有学界争议者一律把对立面一并列出。文末给出出处,供读者自行核对,而不是相信本文。

一、这场争论,两千四百年前打过一次

关于"新工具会不会毁掉学习能力",最早的一份完整论证不是关于 AI 的,而是关于文字的——而且是柏拉图记下来的。

《斐德若》274c–275b:苏格拉底转述一个埃及故事。发明之神特乌斯向国王塔穆斯献上文字,称它是"记忆与智慧的药方"。国王的回答成了这场争论的原型:

国王说,文字恰恰会在学习者的灵魂中造成遗忘,因为他们将依赖外在的符号,而不再从内部自己回忆。你给的不是记忆的药,而是提醒的药。学习者将显得博学,实则大多一无所知——他们拥有的是智慧的外观,不是智慧本身。
苏格拉底随后补充了文字的第二宗罪:你无法向一段文字提问。它只会一遍遍重复同样的话,无论你问什么。

这段材料的价值在于它同时证明了两件相反的事,而任何一方单独引用都是不诚实的:

其一,苏格拉底错了。文字没有毁掉人类的思考,它成了此后一切复杂思想的载体——包括记下这段批评的这篇对话本身。这个自我指涉是柏拉图故意的。

其二,苏格拉底也对了。文字确实把某些东西从人身上拿走了:荷马时代的口传诗人能够背诵整部史诗,这种能力在书写普及之后大规模消退。他担心的那件事真的发生了,只是代价被换来的东西盖过了。

所以正确的问法不是"AI 会不会毁掉学习",而是:这一次,被拿走的是什么,换来的又是什么,以及——这笔交换是不是每个人都划算。

二、"认知卸载":这件事有实验,而且不止一个

正文所担心的那种"外包",认知科学里有一个正式名字:认知卸载(cognitive offloading)。它已经积累了一批实验材料。

其一,谷歌效应(Google effect)。Sparrow、Liu 与 Wegner 二〇一一年发表于《科学》的一系列实验发现:当人们预期信息之后可以随时查到时,他们对信息内容本身的记忆变差,而对信息存放在哪里的记忆变好。研究者称之为"交互记忆"向外部系统的延伸。

其二,导航与空间记忆。Maguire 等人对伦敦出租车司机的经典研究(2000)显示,长期依靠自身记忆规划路线的司机,其海马体后部灰质体积与从业年限相关。而后续关于 GPS 使用的研究提示:长期依赖逐步导航指令,与主动构造认知地图的能力较弱相关。(此处需诚实标明:相关不等于因果,也可能是空间能力弱的人更依赖 GPS。)

其三,最要紧的一条:卸载不是单纯的损失。同一批研究也表明,把记忆负担卸载出去,可以释放工作记忆,从而改善对当前任务的表现。人类使用外部记忆装置——结绳、笔记、清单、文字——的历史与文明本身一样长。

于是问题被精确化了:卸载本身不是罪,被卸载掉的是什么才是关键。把电话号码卸载给通讯录,代价可以忽略;把"如何组织一个论证"卸载给一台机器,代价是你从此不再练习那道工序——而那道工序恰恰是不可替代的那一样。
可以安全卸载的是结果;不能安全卸载的是工序。

三、"生成"与"提取":一条被大量实验支持的分界

如果要问"什么东西一旦被外包就真的丢了",学习科学里有一条非常稳健的证据线可以回答。

其一,测试效应(testing effect / retrieval practice)。Roediger 与 Karpicke 二〇〇六年的经典实验:让学生学习材料后,一组反复重读,一组反复自测。短期内重读组自我感觉更好、即时表现也不差;但在一周后的保留测验中,自测组显著胜出。

其二,合意困难(desirable difficulties)。Bjork 一系的研究表明:那些让学习过程变得更慢、更费力、感觉更糟的安排——间隔复习、交错练习、提取而非重读——反而带来更好的长期保留。而学习者对自己学习效果的判断,恰恰与实际效果相反。

其三,生成效应(generation effect)。自己生成答案(哪怕生成得很吃力、甚至生成错了再被纠正),其记忆效果优于直接被给予答案。

三条合起来,构成了本文最硬的一份材料,而且它的方向极其明确:学习中真正起作用的,恰恰是那段费力的、不舒服的、有可能失败的过程。而一台随叫随到、有求必应的机器,最擅长做的事,正是把这段过程精确地消除掉。

更麻烦的是那条"元认知错觉":被顺畅地给予答案,会让人感觉自己学会了——流畅感被误读成掌握感。于是这套机制的危险在于,它在拿走学习的同时,还附赠了一种学会了的错觉。

四、必须承认的另一半:这台机器也可能是解药

为求真,必须把相反方向的证据列出来,否则本文就成了一篇立场先行的文章。

布卢姆的"两个西格玛问题"。一九八四年,教育心理学家本杰明·布卢姆报告了一个结果:接受一对一辅导并配合掌握学习法的学生,其平均成绩比传统课堂教学的学生高出约两个标准差——粗略地说,普通班里的中等生可以被提到传统班级前百分之二的位置。

布卢姆把这称为"问题",因为它虽然有效,却无法负担:没有任何社会请得起给每个孩子配一位专职教师。此后四十年,几乎所有教育技术的宣传都在引用这个数字。

诚实的补充是必要的:后续研究对"两个标准差"这一具体幅度提出了质疑,认为原始研究的条件较为理想化,实际可复制的效应量更小。但方向没有争议:个别化的、能针对每个学习者当前状态调整的教学,确实显著优于齐步走的课堂。

这条材料的意义在于它把本文的立场逼到了精确的位置:这台机器既可以是那个替你把工序做完的东西,也可以是那个逼你把工序做完的东西——它可以直接给出答案,也可以像苏格拉底一样一路追问、拒绝直接作答。同一台机器,两种用法,方向完全相反。

而这正是正文所说"牢笼"的确切含义:牢笼不是这台机器,牢笼是"用它来省掉那段过程"这个用法。而这个用法之所以会成为默认,不是因为技术,是因为整套评价体系只验收结果,从不验收工序。只要交上去的作业是唯一被看的东西,那么把作业交给机器就是理性的。

五、这份材料如何支撑正文的判断

四组材料合起来,正文的判断就落到了实处,也划清了它的边界。

《斐德若》说明这场争论有两千四百年的先例,且双方都对了一半——所以简单的技术恐慌与简单的技术乐观都不成立;认知卸载研究说明外包确实改变认知,但代价取决于被外包的是结果还是工序;测试效应与合意困难说明学习真正的作用点就在那段费力的过程上,而这恰是最容易被替代掉的部分;布卢姆两西格玛说明同一台机器也可以指向完全相反的方向。

用三方程说:学习的显露(S)——那个"我会了"——是由一套特定的纠缠(E)经由一段费力的差异(D)当场发生出来的。你没有办法把 D 外包出去而保留 S。你可以拿到答案,但答案不是学会;答案是别人那场发生的产物,不是你这场发生的产物。

所以真正该问的不是"该不该用",而是那句更难的:这一次,我把哪一段过程交出去了?

材料出处:柏拉图《斐德若》274c–275b(斯特方页码)。 | Sparrow B., Liu J., Wegner D. M., Google Effects on Memory, Science 333:776–778, 2011。 | Maguire E. A. 等, PNAS, 2000(伦敦出租车司机海马体研究)。 | Roediger H. L. & Karpicke J. D., Test-Enhanced Learning, Psychological Science, 2006。 | Bjork R. A. 关于 desirable difficulties 的系列研究。 | Bloom B. S., The 2 Sigma Problem, Educational Researcher 13(6):4–16, 1984。

六、三条可以当场使用的判据

前文的结论是"看你把哪一段过程交出去了"。这句话要能用,必须落成可当场执行的判断。此处给出三条。

判据一:这一步,我事后能不能自己重做一遍?如果能——那么让机器代劳,节省的是重复劳动,代价可控(就像用计算器算一道你会算的乘法)。如果不能,那么你刚才不是省了时间,你是跳过了一次本该属于你的发生。

判据二:我是在请它给答案,还是在请它当对手?同一台机器,"帮我写一段论证"与"我这段论证哪里最弱、你来攻它",方向完全相反。前者替你完成工序,后者提高工序的难度。而按前文合意困难那条证据,提高难度的那一侧才是有效的那一侧。

判据三:这段流畅感,是我的还是它的?前文提到的元认知错觉在这里最危险——被顺畅地给予答案会让人感到掌握。一个简单的自检:合上屏幕,把刚才那件事向一个不懂的人讲一遍。讲得出来,是你的;讲不出来,刚才发生的那场是它的,不是你的。

三条其实是同一条:凡是能被外部完成的,都是结果;而学习的全部作用点在工序上。你可以安全地外包结果,不能安全地外包工序——因为工序才是那个会留在你身上的东西。

七、本篇不主张什么

其一,本文不主张禁用。《斐德若》那段材料已经说明,对新工具的整体性禁绝在历史上从未成功过,而且苏格拉底担心的事虽然真的发生了,代价仍被换来的东西盖过。本文主张的是分辨,不是禁绝。

其二,本文不主张这台机器一定造成损害。布卢姆那条材料指向相反方向:可负担的、个别化的、能持续追问的教学一直是稀缺品,而这台机器第一次让它可能大规模存在。方向取决于用法,而用法取决于评价体系验收什么。

其三,本文不主张问题出在学生身上。在一个只验收成品、从不验收过程的评价体系里,把成品交给机器是完全理性的。要改的是"只看成品"这件事,而不是要求学生在一个奖励走捷径的系统里主动绕远路。

读者讨论区 · 本文已被阅读

用 Google 账号登录即可发言——发言人就是你的 Google 账号名字。发言公开可见,请友善交流。

/ ⬇ 下载
正在载入精排 PDF…
← → 方向键翻页 · 点击画面两侧翻页 · 可输入页码跳转 · + − 缩放

下载精排 PDF

《当AI给孩子精准推送一切: 个性化,还是更柔软的牢笼?》
SDE 教育专栏

⬇ 下载 PDF(568 KB)
含封面、目录与页码的印刷级精排版。如需翻页在线阅读,切换到「在线读 PDF」;如需网页版,切换到「网页长文」。

参考文献 · References

本文为依 SDE 发生学(王德生《SDE本体论》)重读经典的原创论述。下列文献为文中所涉思想的原典与代表性研究,供读者对读与查证;本文观点不代表所列作者立场。

  1. Ivan Illich, Deschooling Society, New York: Harper & Row, 1971;中译《去学校化社会》,吴康宁译,台北桂冠,1994。
  2. Paulo Freire, Pedagogy of the Oppressed (1970);中译《被压迫者教育学》,顾建新等译,华东师范大学出版社,2001(灌输式 vs 提问式教育)。
  3. Philip W. Jackson, Life in Classrooms, New York: Holt, Rinehart & Winston, 1968(隐性课程)。
  4. Pierre Bourdieu & Jean-Claude Passeron, Reproduction in Education, Society and Culture, London: Sage, 1977(文化再生产)。
  5. John Dewey, Democracy and Education, New York: Macmillan, 1916;中译《民主主义与教育》,王承绪译,人民教育出版社,2001。
  6. Gert Biesta, The Beautiful Risk of Education, Boulder: Paradigm, 2014.
  7. Alfred North Whitehead, The Aims of Education and Other Essays, New York: Macmillan, 1929;中译《教育的目的》,庄莲平、王立中译,文汇出版社,2012。
  8. Ken Robinson, "Do Schools Kill Creativity?", TED Talk, 2006;及 Out of Our Minds, Chichester: Capstone, 2011。
  9. Carol S. Dweck, Mindset: The New Psychology of Success, New York: Random House, 2006;中译《终身成长》,楚祎楠译,江西人民出版社,2017。
  10. Mihály Csíkszentmihályi, Flow: The Psychology of Optimal Experience, New York: Harper & Row, 1990;中译《心流》,张定绮译,中信出版社,2017。
  11. Edward L. Deci & Richard M. Ryan, Intrinsic Motivation and Self-Determination in Human Behavior, New York: Plenum, 1985(自我决定论)。
  12. Howard Gardner, Frames of Mind: The Theory of Multiple Intelligences, New York: Basic Books, 1983(多元智能)。
  13. Robert J. Sternberg, Beyond IQ: A Triarchic Theory of Human Intelligence, Cambridge University Press, 1985.
  14. Lev Vygotsky, Mind in Society, Cambridge, MA: Harvard University Press, 1978(最近发展区)。
  15. Jerome Bruner, The Process of Education, Cambridge, MA: Harvard University Press, 1960;中译《教育过程》,邵瑞珍译,文化教育出版社,1982。
  16. Jean Piaget, The Origins of Intelligence in Children, New York: International Universities Press, 1952;中译《儿童智慧的起源》,李其维译,华东师范大学出版社,2018。
  17. Maria Montessori, The Absorbent Mind (1949);中译《吸收性心智》,胡纯玉译,中国妇女出版社,2012。
  18. Jean-Jacques Rousseau, Émile, ou De l'éducation (1762);中译《爱弥儿》,李平沤译,商务印书馆,1978(消极教育)。
  19. Bruno Latour, We Have Never Been Modern, Cambridge, MA: Harvard University Press, 1993;中译《我们从未现代过》,刘鹏、安涅思译,苏州大学出版社,2010。
  20. John Dewey, Experience and Education, New York: Macmillan, 1938;中译《经验与教育》,姜文闵译,人民教育出版社,2005。
  21. 陶行知:《陶行知教育文集》,四川教育出版社,2005(生活即教育·教学做合一)。
  22. 孔子:《论语》,据杨伯峻《论语译注》,中华书局,1980(因材施教·不愤不启)。