发布时间:2024-06-12 15:36 原文链接: 人工智能使用率上升,应警惕教育被技术“异化”

近年来,飞速发展的生成式人工智能(AIGC)在重塑生产力的同时,也给高等教育领域带来了颠覆性变革。然而,它所具有的“技术双面性”很可能引发“流利但不真实”“道德偏见”“技术依赖”等问题,这将影响高等教育场景。

2023年初以来,全球多所高校陆续出台禁止学生使用AIGC的政策,但越来越多的大学开始意识到AIGC势不可挡,单纯的禁用无法真正解决问题。厘清AIGC在教育与人才培养中的积极或消极效应,成为当下亟待解决的问题。

近日,笔者所在团队开展的“人机对战”系列研究,发现了AIGC对学生创造力、批判性思维以及商业实践等能力的培养具有“双刃剑效应”。

“人机对战”喜忧参半

在这项研究中,研究团队招募了193名学生,他们被分为“人+人”组、“人+AIGC”组。前者为3名学生,后者为2名学生以及为他们配备AIGC程序的电脑。研究团队分配给他们生成产品创意、商业分析报告等多类型任务,并对他们的完成效果进行长期对比分析,发现了以下结果。

第一,人机协作可以提高学生产生创新想法的数量,但也使其产生“自我贬损”的负效应。相比于“人+人”组,“人+AIGC”组在产生产品创意阶段的优势更明显。然而,当学生初次使用AIGC完成创意任务后,63%的学生个体对自己的创新表现给出较低的自我评价。这种“自我贬损”现象在“原创性”这一创造力维度上表现得尤为明显。这一发现提醒我们,过度使用AIGC可能导致学生创新效能的贬损。

第二,AIGC容易形成技术依赖危机,降低学生的批判性思考能力。我们通过长期追踪实验发现,学生长期自发使用AIGC致使其技术依赖度普遍提升10%以上。部分学生在完成学习任务时过度依赖AIGC产生想法、提供解决方案及作决策。在养成技术依赖后,如果突然暴露在没有AIGC的任务环境中,超过62%的学生出现了较明显的无助、焦虑等负面情绪。

第三,长期使用AIGC会降低学生的创新思维,导致原创力价值贬损。在我们的追踪实验观察下,长期使用AIGC协作完成任务抑制了学生的发散性思维,并降低了他们在无人工智能辅助情境下的创新表现,平均得分降低了7%。

值得深思的是,与短期使用情景下在创新方面“自我贬损”不同,学生长期使用AIGC后,其对自身创新思维评价出现与现实不符的“自我夸大”,近11%的学生甚至养成了“把作业拖到最后,利用AIGC短时间完成”的不良习惯。此外,AIGC在内容生成方面的易获取性导致抄袭行为频发,进而引发了教育过程中原创力和创造力的价值贬损。

第四,使用AIGC容易导致“创新同质化”加剧。研究团队通过对人机交互日志进行文本分析发现,在长期使用AIGC后,相比于“人+人”组的学生,“人+AIGC”组学生的产品创意和道德决策创新相似性分别提升11%和9%。

由此可见,AIGC的标准化模式忽略了个性化教育的本质。部分学生通过与AIGC的同质化互动,导致了个体认知的僵化。同时,过度依赖AIGC的已有知识,也会导致学生忽视新的创造性知识,进而限制其对更多可能性的探索。部分受访学生反映,有些学生“活得像个AI,失去了寻找解决问题方法的能力”。

第五,长期使用AIGC导致人际连接的缺失。AIGC协作系统会创造虚拟交流体验,可能阻碍学生之间的人际互动,妨碍学生情感智力和同理心的发展。

研究发现,在大学课堂授课过程中,当老师提出问题时,近22%的被访学生会随即将问题发给AIGC,并将其提供的答案作为小组讨论的结果进行汇报,甚至出现了“小组作业不讨论,学生们各自提问AIGC”的情况。同时,部分不会使用AIGC的学生则由于意识到自己的技术能力不足而感到被边缘化。

第六,AIGC并未缩小学生之间的表现差异,甚至可能进一步加剧不平等。

《科学》曾发表研究称,在AIGC辅助下,常规工作中表现欠佳的个体可以通过该技术提高工作效率,进而减少人与人之间的效率差异。然而,此次人机对比实验却显示,由于利用AIGC的协作方式不同,不同学生间的表现差异较明显。

具体而言,对于熟悉AIGC技术特性并具有主动学习意识的学生而言,他们往往采用“先自己思考,后利用AIGC协助完善”的模式,在保持独立思考的同时又提高了回答质量。这部分学生约占31%。与之相反,近45%的学生在缺乏深入思考的前提下,依赖AIGC首先给出逻辑框架甚至详细步骤,往往会消磨自己的好奇心与思辨能力。

合理部署AIGC才能更好发挥正向作用

面向未来,“AI+高等教育”将会加速融合。在此过程中,一方面,学生在与智能技术持续交互过程中应保持个体主体性,警惕被技术“异化”;另一方面,在人机协作时代,培养学生的人机协作能力也是对高等教育人才培养所提出的新要求。

首先,AIGC在教学与人才培养过程中存在任务边界,高校须厘清其在每类任务中的积极或消极作用,合理部署AIGC才能更好发挥正向作用。

例如,大学应当为教师提供与AIGC相关的培训,帮助不同学科的教师探索发现AI能够帮助学生拓宽能力的积极任务边界,进而设计更多需要AIGC辅助完成的创新性作业,而不是AI可以独立完成的任务,引导学生在保持独立思考的同时进行理性使用,进而激活其在高校教学与人才培养中的正能量。

其次,构建关于使用AIGC的伦理道德课程体系。一方面,学校应当结合AIGC的技术特性与学术规范要求,重新定义AIGC背景下的学术抄袭、学术不端等问题,优化技术查重机制,引导学生树立正确的学术道德观,防止其滥用AIGC;另一方面,大学应该借鉴国家互联网信息办公室等部门发布的《生成式人工智能服务管理暂行办法》,尽快制定符合本校需求的政策和指导规范,为师生提供清晰的使用规范指导。

最后,大学需要尽快建立“AIGC+教育的观测体系”,有组织地部署AIGC。人工智能推动高等教育变革已经是大势所趋,其最高频的应用场景就是教学科研与人才培养全过程。然而,各高校目前普遍缺少专业团队用以观测并调研“AIGC的典型教育场景”,这很可能导致其在高教领域的实际应用与科学部署的不匹配,进而忽视该技术给教学与人才培养所带来的负面效应。


相关文章

3项人工智能赋能基础教育成果在未来科学城发布

7月13日,在“京校协同·智启未来”校城融合论坛上,3项人工智能赋能基础教育领域代表性成果发布。其中,“北极星”基础教育大模型评测场正式上线,为中小学提供多学科、多场景的智能解题评测服务。新发布的3项......

人工智能赋能科学研究,北京出台首个科学智能专项地方政策

7月11日,北京市科委、中关村管委会,北京市发展改革委,北京市经济和信息化局,海淀区人民政府联合发布《北京市加快人工智能赋能科学研究高质量发展行动计划(2025-2027年)》(以下简称《行动计划》)......

北京师范大学发布人工智能赋能基础教育代表性成果

7月13日,“京校协同·智启未来”校城融合论坛在北京师范大学举办。论坛发布了北京师范大学在人工智能赋能基础教育方面的三项代表性成果。成果发布由北京师范大学校长于吉红致辞,北京市委常委、教育工委书记于英......

2025年度吴文俊人工智能科学技术奖提名工作启动

关于2025年度吴文俊人工智能科学技术奖提名工作的通知各有关单位、专家:为激励和表彰在人工智能领域从事科学研究、技术开发与创新、科技成果推广应用和产业化等方面做出突出贡献的单位和个人,根据《关于深化科......

西北工业大学成立人工智能学院

7月12日,西北工业大学智能无人系统发展论坛暨人工智能学院成立大会举行。会上正式宣布成立人工智能学院,并发起成立智能无人系统创新联盟。据悉,西北工业大学人工智能学院深度融合人工智能与系统集成技术,通过......

模式识别与人工智能前沿探讨专题论坛召开

7月6日,由中国科学技术协会主办,中国自动化学会承办的第二十七届科协年会“模式识别与人工智能前沿研讨”专题论坛在北京召开。论坛聚焦国家战略需求与技术前沿动态,汇聚来自国内知名高校、科研院所及行业领军企......

AI学会“欺骗”,人类如何接招?

人工智能(AI)的迅猛发展正深刻改变着世界,但一些最先进的AI模型却开始表现出令人警惕的行为:它们不仅会精心编织谎言,谋划策略,甚至威胁创造者,以达到自己的目的。物理学家组织网在上个月一则报道中指出,......

基于人工智能的通用蛋白质工程方法成功开发

蛋白质工程基于蛋白质的灵活性,通过人工手段改变氨基酸序列,实现对蛋白质结构和功能的修饰和改造。与基因组工程相比,蛋白质工程可直接对蛋白质分子进行操纵,借助突变的迭代积累,快速完成蛋白功能优化和创新。蛋......

人工智能在生物制造领域典型应用案例名单(第一批)公示

根据《工业和信息化部办公厅关于开展智能技术在生物制造领域典型应用案例征集工作的通知》(工信厅消费函〔2024〕394号),经省级工业和信息化主管部门推荐、形式审查及专家评价等程序,形成《人工智能在生物......

30亿港元“人工智能资助计划”已资助10项目

7月4日,在香港数码港举办的“人工智能资助计划”项目分享会上,人工智能资助计划委员会主席冼汉迪披露,截至6月底,香港特区政府拨款30亿港元的“人工智能资助计划”已批出10个项目,研究范围涵盖本地大语言......