多国加快推进人工智能应用监管
随着聊天机器人ChatGPT等人工智能（AI）应用快速发展，全球监管机构也在加快探索如何妥善进行监管，在鼓励技术创新的同时保护公众利益。 据美联社报道，美国联邦贸易委员会25日表示，政府将毫不犹豫地打击涉及人工智能的有害商业行为。 美国联邦贸易委员会主席莉娜·汗与美国公民权利和消费者保护机构的代表一起，向企业发出警告，监管机构正在努力追踪和阻止使用和开发有偏见或欺骗性人工智能工具的非法行为。比如，运用自动化工具放大偏见信息，以影响雇佣决定、住房和贷款审查等。 在微软和谷歌等大型科技公司快速推动AI技术发展的同时，莉娜·汗强调应加强反垄断监管以保护市场竞争。 莉娜·汗表示，在技术颠覆的时刻，老牌企业和已有企业可能会试图打击、兼并或以其他方式非法限制新进入者，以巩固其主导地位。如今，这些风险已经出现。少数几家大公司控制着必要的原始材料，不仅是大量的数据，还有初创公司和其他企业开发和部署人工智能产品所依赖的云服务和计算能力。 ......阅读全文
ChatGPT创始人呼吁加强对AI技术监管
原文地址：http://news.sciencenet.cn/htmlnews/2023/5/500782.shtm
AI“狂飙”引担忧－监管讨论在升温
自去年底ChatGPT“一夜成名”，人工智能（AI）迎来“狂飙”时刻，AI生成内容（AIGC）领域快速发展。与此同时，数据泄漏、电信诈骗、个人隐私风险、著作权侵权、虚假信息等挑战层出不穷，关于AI监管的讨论正在全球范围内升温。 包括埃隆·马斯克在内的1000多名科技领袖、技术人员和研究人员今年
AI教育风潮席卷中国高校－学生用AI学AI
“What does this machine do(这台机器是干什么的)？”4日下午，西南交通大学孟加拉国留学生Zahidul Alam拍下身前吊弦疲劳试验仪器的照片。收到他的语音提问后，手机中的24小时在线“AI学伴”瞬间给出如论文般详细的英文回答。 这是西南交大首门人工智能通识课的第一课
用AI识别AI：西湖大学研究可检测AI生成文本
虚假新闻、恶意产品评论、剽窃……ChatGPT、 GPT-4等AI大语言模型的应用带来便利，但其误用也带来一系列问题。西湖大学工学院张岳教授的“文本智能实验室”日前发布的一项研究提出一种高准确率、高速、低成本、通用的新文本检测方法——Fast-DetectGPT，无需训练即可识别各种AI大语言模型生
监管AI，欧洲议会通过《人工智能法案》
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519054.shtm
谷歌CEO：AI虚假内容说明监管必要性
“我一直认为 AI （人工智能）是人类正在研究的最深刻的技术，比火、电或我们过去所做的任何事情都要深刻。”当地时间4月16日，在哥伦比亚广播公司（CBS）的采访节目《60分钟》里，谷歌及其母公司Alphabet的首席执行官桑达尔·皮查伊（Sundar Pichai）表达了他对人工智能的快速发展及其对
ChatGPT的拷问：何为AI伦理、AI治理
前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各界关注与担忧。近年来，不少关于人工智能（AI），并和人类生产、生活关系紧密的议题被广泛讨论，诸如“如何应对AI可能对社会产生
“AI+”时代－|－AI“解码”免疫系统
人体免疫系统包含了很多有关身体健康的信息，其中的关键部分就包含在血液中。医学界提出了一个大胆设想：通过创建一个万能的血液测试，采集免疫系统与病原体之间的反应信息，绘制“免疫图谱”，从而解码免疫系统中的信息，及时在疾病恶化前筛查确诊。那么，什么样的平台能提供足够的计算力，不断通过机器学习和精准模型
ChatGPT的拷问：何为AI伦理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各
AI技术如何才能扶持传统行业
“AI技术要实现应用，首先数据要达到一定的体量，此外算力也要能支持大规模的模型训练，而后算法方面需要达到一定的精度，端侧算力也要具备一定的推理能力。之所以目前只有消费互联网公司在大规模应用AI算法技术，主要是在这三方面消费互联网公司都更具优势。”——朱鹏飞 天津大学智能与计算学部副教授 近日，
蛋白质组学+AI技术
人们在吞咽的时候，颈部有个器官会随着吞咽动作上下活动，它就是甲状腺。西湖欧米有望实现临床转化的第一个项目，就是基于蛋白质标志物的甲状腺结节的良恶性诊断。甲状腺很小，但它影响到五脏六腑。数据显示，每5个成年人中就可能有1人患有甲状腺结节。其中，约60%的甲状腺结节都是良性的。但有10%的结节是恶性的，
AI不懂化学？新技术有望改观
随着具有广泛耐药性的超级耐药细菌的出现，人类迫切需要结构新颖的抗生素。最近，加拿大麦克马斯特大学和美国斯坦福大学的研究人员开发出一种新的生成式人工智能模型，可以快速、低成本地设计新的抗生素分子，并给出了合成路线，使化学家们可以在实验室轻松合成出新分子。3月22日，相关成果发表于《自然—机器智能》。2
ThetaRay公司成功完成5700万美元融资：用AI技术反AI洗钱
基于人工智能的反洗钱（AML）平台ThetaRay日前宣布成功完成一轮5700万美元的融资，由Portage领投，同时有JVP、OurCrowd以及其他未透露姓名的早期投资方参与。这一融资将ThetaRay的总融资金额提升至1.6亿美元。ThetaRay的AML平台具备自动扫描和识别银行及其他金融机
用AI数据训练AI可能最终导致崩溃
《自然》7月24日发表的一篇论文指出，用人工智能（AI）生成的数据集训练未来几代机器学习模型可能会污染它们的输出，这个概念称为“模型崩溃”（model collapse）。该研究显示，原始内容会在数代内变成不相关的胡言乱语，显示出使用可靠数据训练AI模型的重要性。生成式AI工具越来越受欢迎，如大语言
为什么越使用AI，越活得像个AI
生成式人工智能（AIGC）在重塑生产力的同时，也给高等教育领域带来了颠覆性变革。然而，它所具有的“技术双面性”很可能引发“流利但不真实”“道德偏见”“技术依赖”等问题，这将影响高等教育场景。2023年初，全球多所高校陆续出台政策禁止学生使用生成式AI，但越来越多的大学开始意识到生成式AI势不可挡，单
用AI数据训练AI可能最终导致崩溃
《自然》7月24日发表的一篇论文指出，用人工智能（AI）生成的数据集训练未来几代机器学习模型可能会污染它们的输出，这个概念称为“模型崩溃”（model collapse）。该研究显示，原始内容会在数代内变成不相关的胡言乱语，显示出使用可靠数据训练AI模型的重要性。 生成式AI工具越来越受欢迎，
AI“参谋”来了！中关村AI新药研发平台落成
12月19日，由中关村生命科学园与角井（北京）生物技术有限公司共同发起建设的中关村AI新药研发平台在北京中关村生命科学园举行落成典礼。该平台于2020年12月开始筹建，旨在利用人工智能技术帮助制药企业快速进行药物靶点发现和筛选、药物作用机制探索、特异性抗体优化等工作，成为生物医药企业新药研发的
AI应用如何监管？美国政商界商讨应对措施
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498415.shtm 随着聊天机器人ChatGPT等人工智能应用的爆炸式发展，美国联邦政府多家机构和硅谷技术企业都在商讨如何妥善加以监管，在鼓励技术创新的同时保护公众利益。 当地时间11日，美国商
“氏无界·AI无疆”医疗AI成果转化行动启动
原文地址：http://news.sciencenet.cn/htmlnews/2024/1/516109.shtm
亚马逊云推出AI代理功能，让AI成为助理
Amazon Bedrock的Agents（代理）功能将使公司能够构建可以自动执行特定任务的AI应用程序，例如预订餐厅，而不仅仅是得到去哪里吃饭的建议。 “很多人都如此聚焦于这些模型和模型的大小，但我认为真正重要的是如何利用它们构建应用，这也是今天发布代理（Agents）功能的一个重要原因。”
“AI成龙”遇冷，AI数字人在影视业不灵？
影视业成为“粗制滥造”的标签 近日，影视巨星成龙主演、大量使用了人工智能（AI）数字人技术的电影《传说》登陆大荧幕，却遭遇了票房与口碑的双失利。截至7月20日，豆瓣评分5.3，上映10天累计票房不到8000万元。显然，“AI成龙”遭到了冷遇。“AI成龙”本是《传说》这部电影的卖点。据介绍，为了剧情需
AI技术变“金点子”为“好应用”
谈“糖”色变、追求养生、低卡生活……这些热门词汇频频在社交媒体上掀起讨论热潮。有一批年轻人不但捕捉到了这些词汇背后真实的用户需求，还正在利用人工智能（AI）技术寻找解决之道。近日，“中国大学生服务外包创新创业大赛”（以下简称“服创大赛”）决赛在江南大学落幕。本次参赛的成员借助合合信息TextIn智能
AI技术变“金点子”为“好应用”
谈“糖”色变、追求养生、低卡生活……这些热门词汇频频在社交媒体上掀起讨论热潮。有一批年轻人不但捕捉到了这些词汇背后真实的用户需求，还正在利用人工智能（AI）技术寻找解决之道。近日，“中国大学生服务外包创新创业大赛”（以下简称“服创大赛”）决赛在江南大学落幕。本次参赛的成员借助合合信息TextIn智能
AI“癌症专家”催化诊疗技术革新
生活工作中，人们已能感受到生成式AI的强大。但除了覆盖到日常生活，还有一类领域也正在被AI模型悄悄改变——医学中的癌症诊断。革命性的转变就在眼前。现在，美国哈佛医学院、斯坦福大学和布莱根妇女医院联合团队设计了一种多功能的、类似ChatGPT的AI模型，能对多达19种癌症作出精确诊断。在近日出版的《自
OpenAI高层提议设立参考IAEA模式设立AI国际监管机构
人工智能的发展足够迅速，它可能带来的危险也足够明显，以至于OpenAI的领导层认为，世界需要一个类似于管理核能的国际监管机构--而且要快，但不要太快。在公司博客的一篇文章中，OpenAI的创始人Sam Altman、总裁Greg Brockman和首席科学家Ilya Sutskever解释说，人工智
用AI生成数据训练AI或导致模型崩溃
《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野兔的名字），这凸显出使用可靠数据训练
AI－耗电超出预期，未来－AI－进展或依赖能源突破
据 technews 报道，由于 AI 消耗电力将远远超出人们预期，OpenAI 执行长 Sam Altman 认为，未来 AI 发展需要寻求能源突破。Sam Altman在彭博社于达沃斯世界经济论坛（World Economic Forum）期间举行的座谈活动中谈道，对气候友善的能源，特别是核融合
AI也分级？清华教授推动全球首个AI《分级定义》
AI对话系统发展历程 高凯 摄 28日，由清华大学计算机教授、智能技术与系统实验室副主任黄民烈发起，联合了十余家科研机构、二十多位知名学者共同制定的全球首个《AI对话系统分级定义》(以下简称《分级定义》)正式发布，《分级定义》将推动AI对话系统在虚拟个人助理、智能家居、智能汽车(车载语音)、情
用AI生成数据训练AI或导致模型崩溃
科技日报北京7月25日电 （记者张梦然）《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野
未来智能社会什么样从AI到AI+
8月26日国发〔2025〕11号颁布了《国务院关于深入实施“人工智能 +”行动的意见》这一重要文件，其中特别强调“人机协同、跨界融合、共创分享的智能经济和智能社会新形态”，其核心就是要积极构建“人、机（ AI）与环境对齐的生态智能体系”，推动人工智能与经济社会各行业各领域广泛深度融合，重塑人类生产生