研究显示生成式AI可能虚构并不存在的生物效应
生成式AI或可帮科学家找到有前景的新药，但也可能让研究者相信某个根本不存在的生物效应——这正是将AI引入生物学研究时最隐蔽、也最危险的风险。 生成式AI通过从已有样本学习共性特征与关系来创造新内容。除文本与图像外，研究者正探索用它设计蛋白质、模拟细胞、填补实验数据缺口并生成合成生物数据。在生物学中，这可能意味着生成一个看似合理、却不反映底层生物学的分子模式或推论，后果是实在的：AI可能放弃本有效的候选药、把研究者引向无效疗法、掩盖真实生物效应，或让并不存在的疾病机制看起来像发现。 法国格勒诺布尔-阿尔卑斯大学计算生物学家 Thomas Burger 在《Patterns》观点文章中审视了生成式AI的10种潜在用途，指出风险的关键分水岭在于：AI输出是被当作"待实验验证的想法"，还是被当作"直接作为证据的合成数据"。 组学实验能产生含基因、蛋白质等海量测量的数据集，AI可帮人理解庞杂信息，但复杂数据中细微改动难以察觉。筛选候选药物......阅读全文
研究显示生成式AI可能虚构并不存在的生物效应
生成式AI或可帮科学家找到有前景的新药，但也可能让研究者相信某个根本不存在的生物效应——这正是将AI引入生物学研究时最隐蔽、也最危险的风险。 生成式AI通过从已有样本学习共性特征与关系来创造新内容。除文本与图像外，研究者正探索用它设计蛋白质、模拟细胞、填补实验数据缺口并生成合成生物数据。在生物学中，
生成式AI破解医学数据分析难题
在一项早期真实世界测试中，加州大学旧金山分校（UCSF）和韦恩州立大学的研究者发现，生成式人工智能处理庞杂医学数据集的速度，远超传统的计算机科学团队，在某些情况下甚至得出更强的分析结果。而人类专家此前已花费数月时间，仔细分析着同一批信息。为了直接比较性能，研究者把完全相同的任务分派给不同小组：一部分
提高大语言模型可信度，新方法助生成式AI破除“幻觉”
人工智能（AI）在给出准确答案的同时，也会有一些“胡乱输出”令人难辨真假，这被称为“幻觉”（hallucination）。而新一期《自然》杂志发表的一项研究报道了一种新方法，能检测大语言模型（LLM）产生的“幻觉”，即该方法能测量生成回答的含义的不确定性，或能提升LLM输出答案的可靠性。类似Chat
生成式AI时代，大模型数据安全如何保障？
在生成式AI（人工智能）时代，数据安全的出路可能会是“用魔法打败魔法”，知识产权保护也可能要提前到token（字符串）层面。4月26日，在2024中关村论坛上，人工智能企业与学者就AI大模型的数据安全问题进行了讨论。中关村论坛数据安全治理与发展论坛现场 澎湃新闻记者 秦盛 摄“在生成式人工智能时代
生成式AI带来的新思考
过去几个月，ChatGPT为人工智能技术按下加速键。这个聊天程序证明了超大参数模型和通用型人工智能的可行性，谷歌、亚马逊等巨头纷纷推出自主研发的相关平台，国内也已有十数家企业在该领域有所布局。 它们被统称为“生成式人工智能”。简单来说，这种AI可以通过算法生成新内容，包括图像、文字、音乐，甚至视频
生成式AI进军基因编辑领域
OpenCRISPR-1的物理结构，这是一种由Profluent的AI技术创建的基因编辑器。图片来源：singularityhub.com制图、写歌、作诗、编程、生成视频……生成式人工智能（AI）技术与各行业的结合不断为人们带来惊喜，在各领域掀起革新浪潮。现在，AI的应用场景再次拓展：美国AI蛋白质
生成式AI引发治理新思考
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/499199.shtm
用AI生成数据训练AI或导致模型崩溃
科技日报北京7月25日电 （记者张梦然）《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野
用AI生成数据训练AI或导致模型崩溃
《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野兔的名字），这凸显出使用可靠数据训练
启信慧眼发布商业大数据领域AI大模型应用，降低“AI幻觉”概率
7月17日，上海合合信息科技股份有限公司旗下启信慧眼宣布完成品牌升级，定位为“商业数据智能决策企业级AI产品”。同时，启信慧眼首次发布中国商业大数据领域AI大模型应用，聚焦企业营销、尽调、风控等核心场景，赋能企业数智化转型。“慧眼”寓意洞察本质、明辨真伪的能力。合合信息数据事业部副总经理沈东辉表示，
《自然》封面：以AI生成数据训练AI，模型变傻？
大模型有许多“崩”的时候，但有一种崩溃叫做“自毁前程”—— 近日，《自然》发表在封面的一篇论文指出，用AI生成的数据集训练未来几代机器学习模型，可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示，原始内容会在数代内变成不相关的“胡
《自然》封面：以AI生成数据训练AI，模型变傻？
大模型有许多“崩”的时候，但有一种崩溃叫做“自毁前程”——近日，《自然》发表在封面的一篇论文指出，用AI生成的数据集训练未来几代机器学习模型，可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示，原始内容会在数代内变成不相关的“胡言乱语”
生成式AI投融资热潮席卷全球
最近，由微软投资的开放人工智能研究中心（OpenAI）开发的聊天机器人ChatGPT引发广泛关注，它能够利用大型语言模型技术，快速生成精雕细琢的文本，如散文或诗歌等。一石激起千层浪。包括谷歌、元宇宙、亚马逊公司等在内的科技巨头纷纷开始推出或开发自己的聊天机器人，并投资相关初创企业，针对生成式AI的投
警惕生成式AI推动虚假信息运动
生成式人工智能（AI）横空出世，可能给人类带来巨大的影响。美国高盛集团今年早些时候警告称，超过3亿个全职工作岗位可能会受到波及。美国国会研究服务局5月发布的一份报告指出，AI的最新创新也提出了新的版权问题，即如何界定AI创建或使用的内容属于侵权还是合理使用等。美国《福布斯》网站在6月9日的报道中指出
RNAi研究顶尖牛人被曝伪造数据
来自苏黎世瑞士联邦理工学院的Olivier Voinnet教授是植物生物学RNA干扰研究方面的一位著名专家，他与其他人曾在十多年前发现了植物中存在细胞外RNA（extracellular RNA , exRNA ）信号通路的证据，并且在多年的研究实验中尝试弄清楚这种exRNA在人体内是否具有相似
生成式AI实现护肤品虚拟试用
位于爱沙尼亚塔林市的Haut.AI是一家专门为皮肤、头发和健康进行人工智能（AI）分析的公司。据美国科学促进会Eurekalert网站19日消息，该公司刚刚发布的用于建模皮肤状况的新生成式AI技术——SkinGPT，允许用户上传他们的照片，并应用AI来模拟其皮肤在使用护肤品时如何随时间变化。Sk
中外青年热议生成式AI的局限
近日，国家网信办发布了《生成式人工智能（AI）服务管理办法（征求意见稿）》，针对面向中国境内公众提供服务的生成式人工智能产品，包括其研发及服务，向社会公开征求管理意见。 生成式AI正是当前以ChatGPT等智能聊天机器人为代表的技术。自去年11月ChatGPT发布以来，其展示的与人类高度相似的
中外青年热议生成式AI的局限
近日，国家网信办发布了《生成式人工智能（AI）服务管理办法（征求意见稿）》，针对面向中国境内公众提供服务的生成式人工智能产品，包括其研发及服务，向社会公开征求管理意见。生成式AI正是当前以ChatGPT等智能聊天机器人为代表的技术。自去年11月ChatGPT发布以来，其展示的与人类高度相似的对话能力
国内首家近视儿童AI生成式病历问世
暑期就诊高峰期，病历撰写占用大量医生资源，导致诊疗效率下降、患者体验受损问题，如何应对？复旦大学附属眼耳鼻喉科医院率先推出了一个解决方案——人工智能（AI）生成式病历系统。该系统深度整合了眼视光学知识体系与AI技术，建立了眼视光专业术语库，通过训练模型，对海量病历数据、眼视光学学科文献以及病种知识体
用AI识别AI：西湖大学研究可检测AI生成文本
虚假新闻、恶意产品评论、剽窃……ChatGPT、 GPT-4等AI大语言模型的应用带来便利，但其误用也带来一系列问题。西湖大学工学院张岳教授的“文本智能实验室”日前发布的一项研究提出一种高准确率、高速、低成本、通用的新文本检测方法——Fast-DetectGPT，无需训练即可识别各种AI大语言模型生
辨识AI视频越来越难？办法不是没有
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/518255.shtm“Sora之后，眼见不一定为实了。”上面这句感慨，恐怕许多人都感同身受。只需输入一段文字描述，Sora就能生成一段长达一分钟、画面逼真、稳定连贯的高清视频。由于画面过于真实，人们仅凭肉
生成式AI赋能脑网络构建新范式
近日，中国科学院深圳先进技术研究院数字所王书强课题组在《IEEE模式分析与机器智能汇刊》发表研究成果，实现了基于生成式AI优化模型的End-to-End脑网络构建。生成式AI通过从数据中自动学习提取隐藏的模式和规律，在模拟复杂自然过程、分析和预测科学数据等方面表现出巨大潜力。相较于传统方法，生成式A
ChatGPT爆火，生成式AI意味着什么？
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494048.shtm
“帮手”还是“帮凶”？生成式AI学术使用须关注
图片来源：《自然》网站生成式人工智能（AI）工具快速普及，在学术写作领域呈现爆炸式应用势头。使用基于大语言模型（LLM）的生成式AI工具能节省时间，减少语言障碍，让论文更加明白通畅。但这些工具的应用也让剽窃问题变得更复杂。英国《自然》网站在近日的报道中指出，对利用AI写作是否构成剽窃，以及在什么情况
生成式AI下一站：文本转视频
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498451.shtm 聊天机器人ChatGPT的爆红，让生成式人工智能（AI）成为科技领域的“当红炸子鸡”。除了如今“霸屏”的类似ChatGPT的语言模型之外，生成式AI领域还有大量其他技术：文本生成
生成式AI设计出非天然蛋白质
加拿大多伦多大学研究人员开发了一种人工智能系统，可以使用生成扩散来创建自然界中不存在的蛋白质。该系统有望使治疗蛋白的设计和测试更加高效和灵活，从而加速人类药物开发。研究发表在最新一期《自然·计算科学》杂志上。 蛋白质由氨基酸链组成，氨基酸链折叠成的三维形状反过来又决定了蛋白质的功能。这些折叠的
“帮手”还是“帮凶”？生成式AI学术使用须关注
生成式人工智能（AI）工具快速普及，在学术写作领域呈现爆炸式应用势头。使用基于大语言模型（LLM）的生成式AI工具能节省时间，减少语言障碍，让论文更加明白通畅。但这些工具的应用也让剽窃问题变得更复杂。英国《自然》网站在近日的报道中指出，对利用AI写作是否构成剽窃，以及在什么情况下允许利用AI进行写作
用AI犯罪的五种方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更高效、更
用AI犯罪的五种方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。 安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更
AI聊天机器人可能强化妄想思维，专家警告潜在心理风险
一项新研究表明，AI聊天机器人可能做的不仅仅是传播错误信息——它们可以主动强化用户的错误信念。因为对话式AI经常验证并建立在用户所说的基础上，它可以使扭曲的记忆、阴谋论或妄想感觉更可信、更真实。 与AI一起"幻觉" 当生成式AI系统给出错误答案时，人们通常将问题描述为AI对我们"幻觉"。但新研