为何AI儿童故事引发关注？
AI生成的儿童读物正显现出一种诡异的模式：对雌性动物角色明显的偏见。这种偏见在人类创作的书中也存在，但AI把它推向了更极端的程度，因而引发家长与研究者的警觉。去年发表的一项研究中，华盛顿大学信息学助理教授梅兰妮·沃尔什与同事分析了300本儿童读物，发现指代动物角色时，he/him代词的使用频率是she/her的两倍。尽管某些动物更常被认定某一性别（如熊多被当作雄性、猫多被当作雌性），但一项针对1300名成年人的调查仍显示，受访者在补全描述会说话动物的句子时，普遍偏向男性代词——这一偏见在熊、鸟、猫、猪、鸭、鼠、狗七种动物上都成立。如今，AI生成的儿童读物把这些性别偏见推向了极致。在本月发表、尚待同行评审的后续研究中，沃尔什团队让包括ChatGPT、Claude和Gemini在内的六个主流AI模型补全同类句子，以观察机器如何处理动物性别。在2.4万条回复中，AI使用中性语言或直接称呼动物名字的比例为57%，听起来似乎不算糟糕。但细......阅读全文
为何AI儿童故事引发关注？
AI生成的儿童读物正显现出一种诡异的模式：对雌性动物角色明显的偏见。这种偏见在人类创作的书中也存在，但AI把它推向了更极端的程度，因而引发家长与研究者的警觉。去年发表的一项研究中，华盛顿大学信息学助理教授梅兰妮·沃尔什与同事分析了300本儿童读物，发现指代动物角色时，he/him代词的使用频率是sh
国内首家近视儿童AI生成式病历问世
暑期就诊高峰期，病历撰写占用大量医生资源，导致诊疗效率下降、患者体验受损问题，如何应对？复旦大学附属眼耳鼻喉科医院率先推出了一个解决方案——人工智能（AI）生成式病历系统。该系统深度整合了眼视光学知识体系与AI技术，建立了眼视光专业术语库，通过训练模型，对海量病历数据、眼视光学学科文献以及病种知识体
生成式AI带来的新思考
过去几个月，ChatGPT为人工智能技术按下加速键。这个聊天程序证明了超大参数模型和通用型人工智能的可行性，谷歌、亚马逊等巨头纷纷推出自主研发的相关平台，国内也已有十数家企业在该领域有所布局。 它们被统称为“生成式人工智能”。简单来说，这种AI可以通过算法生成新内容，包括图像、文字、音乐，甚至视频
生成式AI进军基因编辑领域
OpenCRISPR-1的物理结构，这是一种由Profluent的AI技术创建的基因编辑器。图片来源：singularityhub.com制图、写歌、作诗、编程、生成视频……生成式人工智能（AI）技术与各行业的结合不断为人们带来惊喜，在各领域掀起革新浪潮。现在，AI的应用场景再次拓展：美国AI蛋白质
生成式AI引发治理新思考
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/499199.shtm
生成式AI投融资热潮席卷全球
最近，由微软投资的开放人工智能研究中心（OpenAI）开发的聊天机器人ChatGPT引发广泛关注，它能够利用大型语言模型技术，快速生成精雕细琢的文本，如散文或诗歌等。一石激起千层浪。包括谷歌、元宇宙、亚马逊公司等在内的科技巨头纷纷开始推出或开发自己的聊天机器人，并投资相关初创企业，针对生成式AI的投
警惕生成式AI推动虚假信息运动
生成式人工智能（AI）横空出世，可能给人类带来巨大的影响。美国高盛集团今年早些时候警告称，超过3亿个全职工作岗位可能会受到波及。美国国会研究服务局5月发布的一份报告指出，AI的最新创新也提出了新的版权问题，即如何界定AI创建或使用的内容属于侵权还是合理使用等。美国《福布斯》网站在6月9日的报道中指出
生成式AI实现护肤品虚拟试用
位于爱沙尼亚塔林市的Haut.AI是一家专门为皮肤、头发和健康进行人工智能（AI）分析的公司。据美国科学促进会Eurekalert网站19日消息，该公司刚刚发布的用于建模皮肤状况的新生成式AI技术——SkinGPT，允许用户上传他们的照片，并应用AI来模拟其皮肤在使用护肤品时如何随时间变化。Sk
中外青年热议生成式AI的局限
近日，国家网信办发布了《生成式人工智能（AI）服务管理办法（征求意见稿）》，针对面向中国境内公众提供服务的生成式人工智能产品，包括其研发及服务，向社会公开征求管理意见。 生成式AI正是当前以ChatGPT等智能聊天机器人为代表的技术。自去年11月ChatGPT发布以来，其展示的与人类高度相似的
中外青年热议生成式AI的局限
近日，国家网信办发布了《生成式人工智能（AI）服务管理办法（征求意见稿）》，针对面向中国境内公众提供服务的生成式人工智能产品，包括其研发及服务，向社会公开征求管理意见。生成式AI正是当前以ChatGPT等智能聊天机器人为代表的技术。自去年11月ChatGPT发布以来，其展示的与人类高度相似的对话能力
生成式AI破解医学数据分析难题
在一项早期真实世界测试中，加州大学旧金山分校（UCSF）和韦恩州立大学的研究者发现，生成式人工智能处理庞杂医学数据集的速度，远超传统的计算机科学团队，在某些情况下甚至得出更强的分析结果。而人类专家此前已花费数月时间，仔细分析着同一批信息。为了直接比较性能，研究者把完全相同的任务分派给不同小组：一部分
新训练可减少AI系统社会偏见
来自美国俄勒冈州立大学工程学院和Adobe公司的科学家携手，开发出一种用于训练人工智能（AI）的新技术FairDeDup。该技术不仅能降低训练成本，而且有望减少AI系统的社会偏见。研究团队已经在近期于美国西雅图举行的IEEE/CVF计算机视觉和模式识别会议大会上介绍了FairDeDup算法。该会议是
新训练可减少AI系统社会偏见
来自美国俄勒冈州立大学工程学院和Adobe公司的科学家携手，开发出一种用于训练人工智能（AI）的新技术FairDeDup。该技术不仅能降低训练成本，而且有望减少AI系统的社会偏见。研究团队已经在近期于美国西雅图举行的IEEE/CVF计算机视觉和模式识别会议大会上介绍了FairDeDup算法。该会议是
用AI识别AI：西湖大学研究可检测AI生成文本
虚假新闻、恶意产品评论、剽窃……ChatGPT、 GPT-4等AI大语言模型的应用带来便利，但其误用也带来一系列问题。西湖大学工学院张岳教授的“文本智能实验室”日前发布的一项研究提出一种高准确率、高速、低成本、通用的新文本检测方法——Fast-DetectGPT，无需训练即可识别各种AI大语言模型生
人工智能的“偏见”能否消除
图为桑达尔·皮查伊5月14日在加州山景城举行的谷歌I/O大会上发表讲话。自从谷歌对其搜索页面进行改造，经常将AI生成的摘要放在搜索结果顶部，社交媒体上就出现了一些令人不安的错误消息。图片来源：物理学家组织网2024年4月，在卢旺达基加利GIZ数字化转型中心举办的“非洲女孩也能编程”项目的编程训练营中
ChatGPT爆火，生成式AI意味着什么？
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494048.shtm
生成式AI时代，大模型数据安全如何保障？
在生成式AI（人工智能）时代，数据安全的出路可能会是“用魔法打败魔法”，知识产权保护也可能要提前到token（字符串）层面。4月26日，在2024中关村论坛上，人工智能企业与学者就AI大模型的数据安全问题进行了讨论。中关村论坛数据安全治理与发展论坛现场 澎湃新闻记者 秦盛 摄“在生成式人工智能时代
生成式AI下一站：文本转视频
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498451.shtm 聊天机器人ChatGPT的爆红，让生成式人工智能（AI）成为科技领域的“当红炸子鸡”。除了如今“霸屏”的类似ChatGPT的语言模型之外，生成式AI领域还有大量其他技术：文本生成
“帮手”还是“帮凶”？生成式AI学术使用须关注
图片来源：《自然》网站生成式人工智能（AI）工具快速普及，在学术写作领域呈现爆炸式应用势头。使用基于大语言模型（LLM）的生成式AI工具能节省时间，减少语言障碍，让论文更加明白通畅。但这些工具的应用也让剽窃问题变得更复杂。英国《自然》网站在近日的报道中指出，对利用AI写作是否构成剽窃，以及在什么情况
生成式AI赋能脑网络构建新范式
近日，中国科学院深圳先进技术研究院数字所王书强课题组在《IEEE模式分析与机器智能汇刊》发表研究成果，实现了基于生成式AI优化模型的End-to-End脑网络构建。生成式AI通过从数据中自动学习提取隐藏的模式和规律，在模拟复杂自然过程、分析和预测科学数据等方面表现出巨大潜力。相较于传统方法，生成式A
生成式AI设计出非天然蛋白质
加拿大多伦多大学研究人员开发了一种人工智能系统，可以使用生成扩散来创建自然界中不存在的蛋白质。该系统有望使治疗蛋白的设计和测试更加高效和灵活，从而加速人类药物开发。研究发表在最新一期《自然·计算科学》杂志上。 蛋白质由氨基酸链组成，氨基酸链折叠成的三维形状反过来又决定了蛋白质的功能。这些折叠的
“帮手”还是“帮凶”？生成式AI学术使用须关注
生成式人工智能（AI）工具快速普及，在学术写作领域呈现爆炸式应用势头。使用基于大语言模型（LLM）的生成式AI工具能节省时间，减少语言障碍，让论文更加明白通畅。但这些工具的应用也让剽窃问题变得更复杂。英国《自然》网站在近日的报道中指出，对利用AI写作是否构成剽窃，以及在什么情况下允许利用AI进行写作
用AI生成数据训练AI或导致模型崩溃
科技日报北京7月25日电 （记者张梦然）《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野
用AI生成数据训练AI或导致模型崩溃
《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野兔的名字），这凸显出使用可靠数据训练
生成式AI可训练机器人执行多种任务
铲子，刀子，锤子，扳手3个不同的数据集：模拟（上）、机器人远程操作（中）和人类演示（下）让机器人能学习使用不同的工具。图片来源：麻省理工学院科技日报北京6月23日电 （记者张梦然）据美国麻省理工学院官网近日报道，该机构研究人员为了训练更先进的多用途机器人，开发出一种技术：使用一种称为扩散模型的生成式
《自然》封面：以AI生成数据训练AI，模型变傻？
大模型有许多“崩”的时候，但有一种崩溃叫做“自毁前程”—— 近日，《自然》发表在封面的一篇论文指出，用AI生成的数据集训练未来几代机器学习模型，可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示，原始内容会在数代内变成不相关的“胡
《自然》封面：以AI生成数据训练AI，模型变傻？
大模型有许多“崩”的时候，但有一种崩溃叫做“自毁前程”——近日，《自然》发表在封面的一篇论文指出，用AI生成的数据集训练未来几代机器学习模型，可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示，原始内容会在数代内变成不相关的“胡言乱语”
高盛：生成式AI或将推动全球GDP增长7％
高盛研究部最近发布的一份研究报告指出，生成式人工智能技术的发展将给全球经济带来巨大变化。随着以自然语言处理为核心技术的先进生产力工具被企业和社会采用，高盛预计未来10年，全球年均GDP有望增长7 (约合近7万亿美元)。据高盛研究部经济学家Joseph Briggs和Devesh Kodnani在报告
AI视频生成模型Sora来了
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517625.shtm
如何选择词汇减少性别偏见
在职场中，即使是语言选择上的细微差异，也会影响性别观念。这些选择主要分为两类：通过使用中性词汇来最小化性别作用；或通过性别标记来强调个人的性别。 行为科学家Stav Atir在近日发表于《认知科学趋势》的研究中认为，深思熟虑地使用这两种方法，可以促进性别平等。 “如果有人建议说‘女政治