如今,关于人工智能(AI)的讨论不绝于耳。“AI将解决最棘手的问题,改变世界”,“AI能让你生产力提升十倍”,“AI将终结人类文明”,这类标题在媒体上随处可见。
关于通用人工智能(AGI)——一种能够在广泛认知任务上匹敌甚至超越人类能力的AI——即将到来的讨论日益增多。对此,人们的反应不一:有人对此说法持怀疑态度,有人乐观地认为AGI将解决诸多难题,也有人担忧它会取代工作岗位,甚至主宰人类。
尽管通用人工智能(AGI)确实是一个值得深思的议题,但对普通大众而言,思考当前因AI而产生的更直接、却同样令人担忧的趋势,或许更为重要。
在过去一年左右的时间里,关于过度依赖或滥用AI所导致的负面影响,已经出现了不少令人不安的报告。这种现象在学龄学生和初入职场的年轻人中尤为突出,他们是AI工具最广泛的用户。大量报道指出,学生利用AI完成作业或考试作弊,在面试中作弊,或者专业人士使用AI生成未经核实的代码或报告。在许多情况下,教师能立即识别出作业中的作弊行为;而在职场中,未经质量控制提交的粗糙或充满错误的代码和文档,甚至导致了职业上的灾难性后果。
多篇新闻报道和视频都强调,由于学生过度依赖AI,其阅读、写作、理解和批判性思维能力正在下降。
一些专业程序员的经验分享指出,在使用AI后,他们的编程技能有所下降;一份近期研究报告显示,AI用户在创造力和认知能力方面出现了退步;而一篇麻省理工学院(MIT)的最新文章则揭示了使用生成式AI进行编程的隐性成本。
此外,社交媒体上充斥着越来越多的AI生成内容,被戏称为“AI糟粕”。这种现象,再加上社交媒体固有的成瘾性,导致人们在这些平台上花费的时间比以往任何时候都多,进而也可能引发认知能力的下降。
因此,当前紧迫的问题并非通用人工智能(AGI)的潜在后果,而是被称为“通用智能退化”(RGI)的现象。
为何通用智能退化是一个问题?
要在当今世界保持竞争力,个人需要具备批判性思维能力,并能在限定时间内解决问题。要创造价值,则必须产出有价值的工作成果。如果过度依赖AI,产出的质量将取决于AI本身的水平。坦率地说,AI并非总是可靠的,如果某个人的工作可以被AI取代,那么他/她最终很可能会被取代。正是这种核心技能的萎缩,使得通用智能退化(RGI)变得如此危险。
批判性思维能力和解决问题的能力,如同肌肉一般,无法一蹴而就,需要持续的训练才能发展。试想一下,如果想保持健康体魄,就需要锻炼。而使用AI完成作业,却期待自身能力能有所提升,这就像每天开车一小时,却奢望体能能够增强一样。正如体育锻炼对于增强力量和耐力至关重要,亲自动手解决问题、独立完成写作和编程任务,对于提升智力同样不可或缺。
过度依赖AI还会带来道德层面的问题。在被要求深入思考并提交指定任务时,一些人选择将其完全转交给AI。然而,大多数AI工具生成的文本很容易被识别,一旦读者发现这并非原创作品,提交者的信誉便会受损。读者会因此不再认真对待其作品,因为他们清楚作品中至少有一部分并非出自本人之手。
反复使用AI也容易导致人们高估自身能力,这种现象在许多领域日益普遍。使用者可能对基础知识理解不足,却错误地认为自己掌握了“高级内容”。这是达克效应(Dunning-Kruger effect)的一种体现:在特定领域能力较低的人(这在初学者中尤其常见)会高估自己对该领域的了解。要在某一领域发展专业知识,需要大量的实践并独立思考问题。不能指望AI代为思考,然后就自认为已掌握了该领域。
过度依赖AI还会使人变得懒惰,通常导致工作粗糙,需要耗费大量精力去修正。AI工具常会“幻觉”:它们会生成不存在的参考文献,调用未定义的函数或变量(在编程中),插入无意义的代码,或者做出物理上或逻辑上不合常理的陈述。此时,使用者不得不投入大量精力来识别并纠正这些错误。
程序员通常会花费比编写代码更多的时间来调试和优化代码。然而,当前“氛围编程”(vibe coding)的现象正急剧增加,即利用AI生成大段代码。这种代码的调试和改进难度更大,因为使用者不清楚AI为何选择编写这些代码。人们普遍倾向于假设代码是正确的,或者在发现代码不如预期时,因挫败感而放弃。这最终导致了更多不稳定且深层逻辑难以被理解的代码。
我们能做些什么?
在当今时代,忽视人工智能已不再可能。人们期待能够掌握这些工具的使用方法,并学会明智地运用它们。
因此,在运用人工智能时,必须做出审慎而有意识的选择。对于学生而言,不应使用AI来完成作业或考试,因为这样做会为了短期的好成绩而失去培养批判性思维能力的长期益处。从长远来看,与所培养的技能相比,成绩上细微的提升并不那么重要。
AI在澄清不理解的概念,或为深入感兴趣的主题获取更多参考资料方面,可以发挥巨大作用。然而,务必在向AI寻求答案之前,先深入思考相关概念,并与可靠的权威来源交叉核实AI提供的信息。
在许多情况下,AI可以用于自动化某些繁琐任务,或仅仅是为了节省时间。如果能将其作为补充自身技能的工具来使用,它将特别有益。
最重要的是,在使用任何AI工具的输出之前,要进行批判性思考。通常应假设其输出可能存在错误,努力理解其内容,并仔细检查是否存在问题。这不仅能避免后续麻烦,还能培养批判性评估事物的习惯。
如果想在某个特定领域提升自身能力,那么应谨慎使用AI。不要仅仅为了避免枯燥或重复性任务而依赖AI。因为只有通过反复练习,才能真正掌握一项技能。
学校里学习的代数和几何问题可能令人感到枯燥,人们或许会疑惑它们在现实生活中是否有用,但通过解决这些问题,能够学会逻辑思考并发展抽象推理能力。尽管可以讨论学校课程内容的实际比例和质量,但毫无疑问,解决各种数学问题和撰写大量文章,相当于大脑的日常健身锻炼。
尽管让AI解决所有问题并非明智之举,但它确实可以成为评估作品和获取反馈的有用工具。例如,假设需要撰写一篇千字论文或一个解决问题的程序。AI工具可以非常轻松地完成这些任务。然而,如果希望在写作、批判性思维或编程方面有所提升,就必须亲自动手。一旦独立完成论文或代码,便可以向AI寻求反馈,并利用这些反馈在下次进行改进。
