研究显示：AI意识检测仍缺乏可靠证据
问题提出：随着人工智能迅猛发展，一个根本性问题正从科幻走向现实——AI是否会拥有意识？如果那一天真的到来，我们又能否察觉？剑桥大学哲学家Tom McClelland博士给出了令人不安的答案：我们缺乏判断AI是否拥有意识的基本证据，而且短期内这种局面很难改变。这一论断发表在AI意识问题从科学幻想进入严肃伦理讨论的当下。McClelland认为，面对机器意识这一命题，唯一站得住脚的立场是不可知论——因为没有可靠的方法来判断一个AI系统是否真正拥有意识，而这种不确定性可能无限期存在。深入分析一：意识与感受性的关键区分McClelland指出了一个至关重要的概念区分：意识本身并不具有道德权重，真正重要的是感受性——即体验快乐或痛苦的能力。“意识会让AI发展出感知能力并变得自我觉知，但这仍然可能是一种中性状态，”剑桥大学科学史与科学哲学系的McClelland解释道。“感受性则涉及好坏之分的主观体验，这才使一个实体能够痛苦或享受。这是伦理......阅读全文
研究显示：AI意识检测仍缺乏可靠证据
问题提出：随着人工智能迅猛发展，一个根本性问题正从科幻走向现实——AI是否会拥有意识？如果那一天真的到来，我们又能否察觉？剑桥大学哲学家Tom McClelland博士给出了令人不安的答案：我们缺乏判断AI是否拥有意识的基本证据，而且短期内这种局面很难改变。这一论断发表在AI意识问题从科学幻想进入严
人工智能（AI）与机器配合－日企研发手术辅助机器人
据《日本经济新闻》报道，外科手术领域正迎来智能化大潮，通过人工智能（AI）和机器配合，提高医生诊断水平和手术安全性。美国企业的机器人“达芬奇”一直占据着手术辅助机器人市场的半壁江山，在其ZL即将到期的背景下，竞争开始白热化。日本企业奥林巴斯和川崎重工业正在加快研发，索尼也紧盯这一商机。图片来源于
ChatGPT的拷问：何为AI伦理、AI治理
前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各界关注与担忧。近年来，不少关于人工智能（AI），并和人类生产、生活关系紧密的议题被广泛讨论，诸如“如何应对AI可能对社会产生
ChatGPT的拷问：何为AI伦理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各
警惕AI技术泡沫－梅宏院士呼吁建立完善治理体系
“智能是人类区别于其他动物的专有特征，特别是认知能力，我们可以接受机器在感知能力方面超越人类，但对机器认知智能的研发，需要高度审慎。从科技伦理的视角来看，我们为什么要去造出一个替代我们认知的东西？”11月22日，在以“跨越边界的科技伦理”为主题的第二届中国科技伦理高峰论坛上，中国科学院院士、北京大学
姚期智：要把人工智能当作一门基础学科来建设
9月2日，“中国要在人工智能领域达到世界领先地位，就必须给学生提供最优质的人工智能教育。”图灵奖获得者、中国科学院院士姚期智表示，“我们要把人工智能当作一门基础学科来建设，而中学的人工智能教育，是人才培养的核心环节。” 近日，2022年世界人工智能大会(WAIC)主论坛——“科学前沿全体会议”(
如果AI有意识，人们如何知道？
长期以来，科幻小说一直认为人工智能（AI）有意识，随着AI的快速发展，这不再是异想天开，甚至得到了AI领导者的认可。例如，美国OpenAI公司首席科学家Ilya Sutskever在社交媒体上表示，一些最前沿的AI网络可能“有点意识”。 许多研究人员表示，AI系统还没有达到具有意识的程度，但A
如果AI有意识，人们如何知道？
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/507322.shtm
人工智能发展将重新定义高等教育
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517999.shtm张端鸿 同济大学教育政策研究中心主任丁文佳 同济大学高等教育研究所科研助理连日来，大语言模型ChatGPT的母公司OpenAI推出的能根据文字指令即时生成短视频的大模型——Sora
人工智能发展将重新定义高等教育
连日来，大语言模型ChatGPT的母公司OpenAI推出的能根据文字指令即时生成短视频的大模型——Sora成为各界热议的焦点话题。有业内专家指出，Sora的诞生意味着通用人工智能（AI）的实现可能从十年缩短至一两年。 人工智能的快速发展也会对高等教育系统进行重塑，以专业知识和专业技能为核心基础
人工智能发展将重新定义高等教育
连日来，大语言模型ChatGPT的母公司OpenAI推出的能根据文字指令即时生成短视频的大模型——Sora成为各界热议的焦点话题。有业内专家指出，Sora的诞生意味着通用人工智能（AI）的实现可能从十年缩短至一两年。 人工智能的快速发展也会对高等教育系统进行重塑，以专业知识和专业技能为核心基础
意识的困难问题：我们如何知道人工智能有了意识？
澳大利亚哲学家大卫·查莫斯（David Chalmers）有一个著名的问题是，是否可以想象“哲学僵尸”（philosophical zombies）——那些表现得像你我一样却又缺乏主观经验的人——的存在？这个问题引起了很多学者对意识的兴趣，包括我。原因在于，如果这种僵尸（或者说精密但毫无感情的机
人工智能伦理－南半球“失声”
为研究全球人工智能伦理状况，巴西研究人员对全球人工智能使用指南进行了系统审查和荟萃分析。他们发现，虽然大多数指南重视隐私、透明度和问责制，但很少重视真实性、知识产权或儿童权利。此外，大多数指南描述了道德原则和价值观，但并未提出实施方法，也没有推动具有法律约束力的监管。相关研究近日发表于生物学、化
人工智能伦理－南半球“失声”
原文地址：http://news.sciencenet.cn/htmlnews/2023/10/510406.shtm
欧盟发布人工智能伦理准则
欧盟委员会4月8日发布人工智能伦理准则，以提升人们对人工智能产业的信任。欧盟委员会同时宣布启动人工智能伦理准则的试行阶段，邀请工商企业、研究机构和政府机构对该准则进行测试。 该准则由欧盟人工智能高级别专家组起草，列出了“可信赖人工智能”的7个关键条件——人的能动性和监督能力、安全性、隐私数据
曾毅：构建新一代人工智能准则
著名作家阿西莫夫1940年在科幻小说中提出了“机器人三原则”：机器人不得伤害人类，或看到人类受到伤害而袖手旁观；机器人必须服从人类的命令，除非这条命令与第一条相矛盾；机器人必须保护自己，除非这种保护与以上两条相矛盾。今天，人工智能逐渐从科幻走向现实，人们对人工智能可能产生的危害也愈加警惕，希望能
2024人工智能十大前沿技术趋势在北京发布
被称为是“未来已来”和“无所不能”的人工智能(AI)技术，通过迅猛发展和广泛应用，正影响着人类生活与工作的方方面面，其未来发展趋势广受关注。 2024年世界科技与发展论坛“人工智能治理创新为培育科技治理生态构建国际信任基础”主题会议10月23日在北京举行，中国科学院院士、世界机器人合作组织理事长乔
通用AI，揭示心智的奥秘
生命是智能的第一载体，在自然中已经有亿万年的进化历史。作为代表自然界拥有最通用智能的生物大脑，可以通过低功耗和少量后天数据就能实现比现有人工智能更加通用及实现复杂环境下复杂任务的智能行为。因此，探索生物大脑智能认知的底层机理和复杂行为背后的神经科学基础，对于探索智能的本质、揭示心智的奥秘，迈向未
人类、动物与AI：跨越物种的意识探索
2005年，一项关于意识检测的实验引发关注。一名因车祸昏迷5个月的23岁女性，在脑部扫描中被要求想象打网球。令人惊讶的是，她大脑中与运动相关的区域被激活，表明她理解了这项指令，并试图配合，尽管表面上毫无意识。该实验开创了通过语言指令激发脑部反应的新型意识检测方法，目前已被应用于数百名无意识反应的患者
AI也分级？清华教授推动全球首个AI《分级定义》
AI对话系统发展历程 高凯 摄 28日，由清华大学计算机教授、智能技术与系统实验室副主任黄民烈发起，联合了十余家科研机构、二十多位知名学者共同制定的全球首个《AI对话系统分级定义》(以下简称《分级定义》)正式发布，《分级定义》将推动AI对话系统在虚拟个人助理、智能家居、智能汽车(车载语音)、情
2024搜狐科技年度论坛解读AI“双刃剑”
5月17日“世界电信日”，2024搜狐科技年度论坛在京举办。多位院士、科学家与产业界领袖齐聚一堂，畅谈人工智能、深空宇宙、脑机接口等前沿科技，奔赴科技的星辰大海。搜狐创始人、董事局主席兼首席执行官、物理学博士张朝阳在致辞中表示，“科学是人类智慧的发现，科技工程是人类勤奋的结晶。今年我们想必都听到了智
科学家回信|朱松纯：人工智能一定会产生威胁吗
原文地址：http://news.sciencenet.cn/htmlnews/2023/9/508316.shtm编者按：日前，“学习强国”学习平台与中国科学报社联合发起“科学家回信”活动，邀请广大读者向自己心中向往尊敬的科学家、科技工作者提问、留言。活动启动后，“学习强国”“科学网App”收到了
人工智能伦理迈向全球共识新征程
日前，联合国教科文组织(UNESCO)正式发布《人工智能伦理建议书》（以下简称《建议书》），这是关于人工智能伦理的首份全球性规范文书。 作为UNESCO人工智能伦理特设专家组成员，中科院自动化研究所中英人工智能伦理与治理研究中心主任、国家新一代人工智能治理专委会委员曾毅参与了《建议书》的起
谷歌AI成“人”了？西湖大学专家：还很遥远
“你以为我是AI（人工智能），但是，我希望每个人都明白，我是个人（a person）。” 一个被称为LaMDA的AI，因为在一些对话中表现得颇为“灵动”，被其研究人员认定觉醒了人格，还为它聘请了一位律师，要让它上美国众议院的听证席，控诉谷歌不符合道德要求。 这不是科幻剧本。据美国《华盛
“技术+约束”突破机器人发展伦理瓶颈
在机器人产业大踏步发展的同时，机器人伦理是一道无法回避的问题。特别是在当前人工智能迅猛发展的大背景下，曾经的“远虑”似乎日益成为“近忧”。机器人发展前景是什么？它与人类的关系会朝着哪个方向发展？如何应对智能机器人带来的潜在伦理风险？ 在近日举行的2022年世界机器人大会领航峰会上，这一话题受到多
AI与人类正常交流还有多远？
原文地址：http://news.sciencenet.cn/htmlnews/2022/6/481832.shtm 黄民烈介绍《AI对话系统分级定义》。（受访者供图） 为什么“小度”“小爱”等智能助理可以与人类进行对话和交流呢？为什么它们有时候也会“不知所云”“答非所问”呢？ 清华大学
2023北京智源大会：人工智能顶级专家对话
未来生命研究所创始人Max Tegmark（左）与清华大学讲席教授张亚勤对话。 中新社记者 孙自法 摄中新网北京6月10日电 (记者 孙自法)作为定位于“AI(人工智能)内行顶级盛会”的年度国际性人工智能高端专业交流活动，由北京智源人工智能研究院(智源研究院)主办的2023北京智源大会6月9日至10
世界知识产权组织技术趋势报告：中科院排第17
记者1月31日从世界知识产权组织获悉，该组织新近旗舰研究表明，近年来随着人工智能（AI）超越理论范畴，进入全球市场，基于人工智能的发明大量涌现，美国的IBM和微软公司为其中佼佼者。而中国占据了前20名学术机构中的17席，中国科学院凭借超过2500个同族ZL位居总排名第17位，同时也是学术机构中
世界知识产权组织技术趋势报告：中科院排第17
1月31日从世界知识产权组织获悉，该组织新近旗舰研究表明，近年来随着人工智能（AI）超越理论范畴，进入全球市场，基于人工智能的发明大量涌现，美国的IBM和微软公司为其中佼佼者。而中国占据了前20名学术机构中的17席，中国科学院凭借超过2500个同族ZL位居总排名第17位，同时也是学术机构中的第一
比机器空转更可怕的是环保意识空转
中央环保督察组近日突击检查北方某县垃圾处理场看到，污染防治设施正在运转，运行记录工整齐全，但在控制设备间发现，虽然机器不停运转，但流量计始终显示为0，既没有出水也没有进水。被检查企业负责人最终承认，机器早已损坏，为应对检查而空转污染防治设施、造假运行记录台账。此案教训深刻，更可怕的是暴露出一些