机器有了“心”AI能“读懂”人类价值观

科技日报北京7月13日电 （记者华凌 通讯员董亦飞）记者13日从北京大学人工智能研究院获悉，由该院教授朱松纯领衔的联合团队取得一项重大研究成果，构建出一种机器实时理解人类价值观的计算框架，让机器人与人类用户通过实时沟通完成一系列复杂人机协作任务。这一研究可谓为机器立“心”，让AI（人工智能）赋能机器人“读懂”人类价值观。相关论文以“实时双向人机价值对齐”为题刊发在最新一期的国际期刊《科学·机器人学》上。

据了解，当今广泛应用的AI系统是一种被动的智能，只能机械地按照人类给定的任务行事，缺乏像人类一样的认知和推理能力以及情感和价值观。在缺“心”的情况下，AI很难理解人类真正的意图及价值需求，自然也就难以获取人类的信任、融入社会。

在发现之前的研究范式存在局限性之后，朱松纯带领研究团队转换赛道，让AI系统按照人的方式自主定义任务，“学习”人从自身的价值需求出发，由此为机器立“心”，让AI学会人的价值函数，具有实时对齐当前人类价值目标的能力，探索出“小数据，大任务”的范式。