“帮手”还是“帮凶”？生成式AI学术使用须关注
生成式人工智能（AI）工具快速普及，在学术写作领域呈现爆炸式应用势头。使用基于大语言模型（LLM）的生成式AI工具能节省时间，减少语言障碍，让论文更加明白通畅。但这些工具的应用也让剽窃问题变得更复杂。英国《自然》网站在近日的报道中指出，对利用AI写作是否构成剽窃，以及在什么情况下允许利用AI进行写作，科研界应充分探讨并制定更明确的学术写作AI使用指南。AI学术写作应用增多德国蒂宾根大学数据科学家德米特里·科巴克领导的团队，分析了学术数据库PubMed中2010年至2024年6月期间发表的1400万篇论文摘要。他们估计，2024年上半年，至少有10%的生物医学论文摘要（约7.5万篇）使用了LLM进行写作，以LLM为基础的写作“助理”的出现，对学术界产生了前所未有的影响。同时，有些人认为，AI工具是学术写作的“好帮手”。它们可使文本和概念更清晰，减少语言障碍，使科学家能腾出更多时间进行实验和思考。剽窃行为很难揪出2015年的一项研究......阅读全文
用AI生成数据训练AI或导致模型崩溃
《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野兔的名字），这凸显出使用可靠数据训练
用AI生成数据训练AI或导致模型崩溃
科技日报北京7月25日电 （记者张梦然）《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野
AI视频生成模型Sora来了
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517625.shtm
华裔数学家陶哲轩领导白宫生成式AI工作组
美国总统科技顾问委员会成立的生成式AI工作组旨在帮助评估人工智能领域的关键机遇和风险，并就尽可能确保公平、安全、负责地开发和部署这些技术向美国总统提供意见。·AMD的首席执行官苏姿丰（Lisa Su）和谷歌云首席信息安全官菲尔·维纳布尔斯（Phil Venables）也是这个工作组的成员。华裔数学家
《自然》封面：以AI生成数据训练AI，模型变傻？
大模型有许多“崩”的时候，但有一种崩溃叫做“自毁前程”——近日，《自然》发表在封面的一篇论文指出，用AI生成的数据集训练未来几代机器学习模型，可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示，原始内容会在数代内变成不相关的“胡言乱语”
《自然》封面：以AI生成数据训练AI，模型变傻？
大模型有许多“崩”的时候，但有一种崩溃叫做“自毁前程”—— 近日，《自然》发表在封面的一篇论文指出，用AI生成的数据集训练未来几代机器学习模型，可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示，原始内容会在数代内变成不相关的“胡
AI生成超越自然界的蛋白？
美国研究人员使用人工智能（AI）来设计超越自然界的新蛋白质。他们开发的机器学习算法，可生成具有特定结构特征的蛋白质，这些蛋白质可用于制造具有特定机械性能（如刚度或弹性）的材料，从而取代作为原料的石油或陶瓷。研究论文发表在最新一期《化学》杂志上。 麻省理工学院、IBM沃森AI实验室和塔夫茨大学研究人
促进生成式AI赋能抗病毒新药研发，两机构达成合作
原文地址：http://news.sciencenet.cn/htmlnews/2023/12/514131.shtm12月12日，全球健康药物研发中心（GHDDI）与微软研究院科学智能中心（Microsoft?Research?AI4Science）宣布，双方将共同研发全球健康传染病领域的生成式人
提高大语言模型可信度，新方法助生成式AI破除“幻觉”
人工智能（AI）在给出准确答案的同时，也会有一些“胡乱输出”令人难辨真假，这被称为“幻觉”（hallucination）。而新一期《自然》杂志发表的一项研究报道了一种新方法，能检测大语言模型（LLM）产生的“幻觉”，即该方法能测量生成回答的含义的不确定性，或能提升LLM输出答案的可靠性。类似Chat
中国学者参与AI生成图书实验
原文地址：http://news.sciencenet.cn/htmlnews/2022/7/482223.shtm 《CRISPR——计算机生成的文献综述》封面 施普林格·自然供图 7月6日，上海科技大学技术学院教授刘冀珑、生命科学与技术学院博士生张子恒、图书信息中心学科馆员王萍担
促进生成式AI赋能抗病毒新药研发，这两个机构达成合作
12月12日，全球健康药物研发中心（GHDDI）与微软研究院科学智能中心（Microsoft?Research?AI4Science）宣布，双方将共同研发全球健康传染病领域的生成式人工智能与基础大模型技术，聚焦落地转化，加速创新药物研发。此前，双方已成功在结核分枝杆菌以及冠状病毒关键靶蛋白的研究
美国国防部成立生成式AI工作组，帮助改善情报和作战规划
利马工作组将评估、同步和利用整个美国国防部的生成式人工智能能力，还将利用国防部与情报界和其他政府机构之间的合作伙伴关系。 ·许多用例中出现“幻觉”的风险太高，无法采用大型语言模型，例如“任何运动的东西”，或者处理致命武器时。 当地时间8月10日，美国国防部宣布成立生成式人工智能（AI）工作组
英矽智能通过生成式AI发现治疗癌症的强效选择性抑制剂
近日，生成式人工智能（AI）驱动的临床阶段药物研发公司英矽智能（Insilico Medicine）在药物化学领域Top期刊 Journal of Medicinal Chemistry 期刊发表了一篇题为：Discovery of Tetrahydropyrazolopyrazine Deriva
日本一男子涉嫌用生成式AI制作计算机病毒被逮捕
中新网东京5月28日电 (记者 朱晨曦)据日本时事通信社28日报道，一名25岁的日本无业男子涉嫌利用生成式人工智能(AI)制作勒索型计算机病毒，被日本警视厅逮捕。据报道，该名嫌疑人居住在神奈川县川崎市。2023年3月，该嫌疑人隐瞒编写病毒的犯罪目的，向多个AI发出指令制作勒索型计算机病毒。据日本《读
AI生成各向无限延伸的虚拟3D城市
美国研究团队开发出一款名为“无限城市”（InfiniCity）的人工智能模型，其可以快速创建出详细的、可向各个方向无限延伸的三维虚拟城市，这对于创建出可供数百万甚至数亿人互动的虚拟现实世界，或训练自动驾驶汽车应对新环境都非常有用。相关研究最近刊发于预印本网站。 创建详细的三维环境需要收集大量真
微软商店加入AI生成的评论摘要关键词和专门AI服务中心
微软继续为其应用程序和服务添加新的人工智能功能和能力。今年，微软用人工智能为Bing、SwiftKey、Edge和Skype添色，现在是时候让微软商店也尝尝人工智能的滋味了。在其年度开发者大会上，这家软件巨头宣布了几个基于人工智能的微软商店新功能。 微软表示，其Windows10和11应用商店
规范生成式人工智能服务
国家互联网信息办公室近日联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下简称《办法》），自2023年8月15日起施行。 据国家互联网信息办公室有关负责人介绍，该《办法》旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公
如何看待AI辅助学术论文写作
恰逢毕业季，有关使用AI完成论文的话题引发学生和网友讨论。不少高校组织AI代写论文检测，“多地高校将严查AI代写论文”“没想到论文查重要查AI率了”等话题一时间冲上热搜。AI时代，大学生论文写作出现了什么样的变化？AI辅助论文写作有什么优点和潜在风险？如何引导学生以正确方式使用AI技术完成论文？记者
AI生成的科学假说在接受检验时不如人类
全球范围内，人工智能（AI）正在推动科学研究加速发展，部分原因在于它使一项曾被认为是人类独有的创造活动——假说的生成自动化了。但当研究人员在现实世界对这些假说进行测试并让人类评估人员对结果进行比较后发现，AI生成的假说仍然不如人类生成的假说，但两者间差距不大，这种落后局面可能不会持续太久。这是此
AI设计新蛋白质再现突破，生成在拓扑结构
《自然》杂志11日发表的论文描述了一项结构生物学新突破：一种能设计新蛋白质的深度学习方法，名为RoseTTAFold Diffusion（RFdiffusion）。其能生成各种功能性蛋白质，包括在天然蛋白质中从未见过的拓扑结构。 研究示意图（部分） 深度学习推动了蛋白质结构的预测和设计，但仍
346款生成式人工智能备案
7月21日，中国互联网络信息中心（CNNIC）在京发布第56次《中国互联网络发展状况统计报告》（以下简称《报告》）。《报告》显示，截至6月，我国网民规模达11.23亿人，互联网普及率达79.7%，越来越多的群体共享数字发展成果；我国在人工智能领域影响力显著提升，截至3月，共有346款生成式人工智
人工智能倒逼出版界“立规矩”
2022年11月，OpenAI发布生成式人工智能（AI）工具ChatGPT。鉴于生成式AI可快速创建文本、图像等内容，两个月后，ChatGPT已作为作者，赫然出现在一些学术论文上。英国纽卡斯尔大学数字创新研究员萨瓦斯·帕帕扬尼斯表示，在学术界这一竞争激烈的领域，任何能增加研究人员学术产出的工具都是“
“AI笔替”入法，管得住学术不端吗？
原文地址：http://news.sciencenet.cn/htmlnews/2023/9/507905.shtm 面世不到一年的ChatGPT，引发了大模型时代变革，在掀起又一波人工智能（AI）浪潮的同时，也带来了泄漏隐私、引发“饭碗焦虑”、暗藏侵权风险等一系列问题。 ChatGPT以及
AI－代写重要学术会议稿件评审引发争议
在发现一场国际人工智能（AI）会议21%的稿件评审是由AI生成后，争议爆发了。 据《自然》报道，许多学者对提交给明年“国际学习表征会议”（ICLR）的稿件和同行评审表示担忧。他们在社交媒体上指出，其稿件评审中出现了臆造的参考文献，以及对其工作给予了异常冗长且模糊的反馈。ICLR是一场机器学习专
中国作者用AI生成论文插图，发表3天被撤稿！
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517714.shtm 一篇来自西安市红会医院的论文“火”了。 其中的插图引发众多网友热议：大鼠长出了巨大的四个睾丸和阴茎，细胞信号传导图像电路板，而“撒了糖屑的甜甜圈”更是让人们不知所云。很难想象
为什么越使用AI，越活得像个AI
生成式人工智能（AIGC）在重塑生产力的同时，也给高等教育领域带来了颠覆性变革。然而，它所具有的“技术双面性”很可能引发“流利但不真实”“道德偏见”“技术依赖”等问题，这将影响高等教育场景。2023年初，全球多所高校陆续出台政策禁止学生使用生成式AI，但越来越多的大学开始意识到生成式AI势不可挡，单
杜绝代写、检测超40％发警示－多所高校规范大学生用AI写论文
2024年的高校毕业季即将到来，北京青年报记者注意到，相比往年，今年不少国内高校先后发文，就学生如何在毕业论文中使用生成式AI、AI代写在论文中的比例等问题作出规范。有不少学生表示，他们在论文创作中会使用AI来搜集文献、处理数据、书写代码等。也有学生称，AI写出的内容有时会出现错误。 人工智能
生成式人工智能服务应用落地提速
近段时间，生成式人工智能服务（AIGC）引发关注，国内多家互联网企业宣布相关业务布局。在技术创新不断突破的同时，国内生成式人工智能服务与协同办公软件等深度结合，加速向应用层面落地。 协同办公赛道掀新风口 在千问大模型面世后，协同办公软件钉钉确认接入千问。“钉钉将全面启动智能化战略，我们从原来的协
生成式法律大模型呼之欲出
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504932.shtm7月15日，由上海交通大学主办，上海交通大学凯原法学院、智慧法院研究院、人民法院矛盾纠纷源头治理研究基地、上海市法学会公司法务研究会联合承办的“生成式法律大模型专题研讨会”成功举行。
AI生成？史上最短命论文，发表后仅三天被撤稿
2024年2月13日，西安交通大学郝定均作为通讯作者在Frontiers in Cell and Developmental Biology 在线发表题为”Cellular functions of spermatogonial stem cells in relation to JAK/STA