大语言模型现状偏见难题终于有解了
加拿大滑铁卢大学的一项综合研究揭示，主流大语言模型存在显著的现状偏见，在气候相关建议中持续偏向既有、高排放的选择，而非创新的、对气候友好的替代方案。研究团队评估了十一个知名人工智能模型，在近五万五千条测试提示中，发现聊天机器人认可现有政策的概率，是支持拟议气候改革方案的两倍；而被推荐的电动汽车比例，也远低于现实世界中的实际采用率。这表明，把生成式人工智能默认用于消费与政策决策，可能为脱碳进程树立一个被忽视的障碍。 随着数以百万计的消费者、企业领袖与政策制定者转向对话式人工智能寻求日常购买建议与战略规划，算法正悄然塑造社会决策。由于大语言模型训练于反映过去人类选择的海量历史语料，其建议不可避免地折射出根深蒂固的历史规范。在心理学中，偏好现有状况胜过新颖替代方案的倾向被称为现状偏见，而滑铁卢大学这项开创性的计算与环境研究证明，这种认知偏见已被深深嵌入商业聊天机器人的底层架构之中。 为检验人工智能聊天机器人是否会被动地维持现状，研......阅读全文
大语言模型现状偏见难题终于有解了
加拿大滑铁卢大学的一项综合研究揭示，主流大语言模型存在显著的现状偏见，在气候相关建议中持续偏向既有、高排放的选择，而非创新的、对气候友好的替代方案。研究团队评估了十一个知名人工智能模型，在近五万五千条测试提示中，发现聊天机器人认可现有政策的概率，是支持拟议气候改革方案的两倍；而被推荐的电动汽车比
生成式AI时代，大模型数据安全如何保障？
在生成式AI（人工智能）时代，数据安全的出路可能会是“用魔法打败魔法”，知识产权保护也可能要提前到token（字符串）层面。4月26日，在2024中关村论坛上，人工智能企业与学者就AI大模型的数据安全问题进行了讨论。中关村论坛数据安全治理与发展论坛现场 澎湃新闻记者 秦盛 摄“在生成式人工智能时代
提高大语言模型可信度，新方法助生成式AI破除“幻觉”
人工智能（AI）在给出准确答案的同时，也会有一些“胡乱输出”令人难辨真假，这被称为“幻觉”（hallucination）。而新一期《自然》杂志发表的一项研究报道了一种新方法，能检测大语言模型（LLM）产生的“幻觉”，即该方法能测量生成回答的含义的不确定性，或能提升LLM输出答案的可靠性。类似Chat
新型AI芯片将大语言模型能耗减半
美国俄勒冈州立大学科研团队研发出一种新型AI芯片，成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布，是半导体领域的重大突破，有望成为解决大语言模型高能耗问题的“绿色钥匙”。 当前，以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型，因海量参
AI语言模型“提速”药物发现
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美国麻省理工学院和塔夫茨大学研究人员设计出一种基于大型语言模型（如ChatGPT）的人工智能算法，这种称为ConPLex的新模型可将目标蛋白与潜在的药物分子相匹配，而无需执行计算分子结
“AI+教育”，复旦推出大语言模型助力新生报到
8月25日，是复旦大学本科生新生报到的日子。来自全国各地和全球40多个国家的4300余名2024级本科新生，开启了在复旦的求学生涯。新生报道现场。为帮助来自世界各地的新同学尽快融入复旦大学，学校基于大语言模型，推出“复旦迎新助手”智能Agent。作为新生的贴心小帮手，大语言模型为新同学在迎新阶段提供
生成式法律大模型呼之欲出
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504932.shtm7月15日，由上海交通大学主办，上海交通大学凯原法学院、智慧法院研究院、人民法院矛盾纠纷源头治理研究基地、上海市法学会公司法务研究会联合承办的“生成式法律大模型专题研讨会”成功举行。
AI视频生成模型Sora来了
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517625.shtm
压缩算法为大语言模型“瘦身”
据美国科学促进会旗下网站19日报道，美国普林斯顿大学和斯坦福大学团队开发出一种新压缩算法CALDERA，能精简大型语言模型（LLM）的海量数据，为LLM“瘦身”。这项算法不仅有助保护数据隐私、节约能源、降低成本，还能推动LLM在手机和笔记本电脑上高效使用。团队举例称，当人们使用ChatGPT时，请求
AI能否把DNA折成任意形状？生成式模型给出肯定答案
形如小狗、星星与蒙娜丽莎——若不是只有纳米级宽，你几乎会把这类DNA结构误认成造型有趣的空心粉。韩国科学家用一种名为"DNA折纸"（DNA origami）的技术造出这些构造，能把遗传物质弯折成任意形态。传统上，设计DNA链使其折叠成特定形状往往需要繁琐的手动工作；而这组玩心十足的构造背后，研究者已
用AI生成数据训练AI或导致模型崩溃
科技日报北京7月25日电 （记者张梦然）《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野
用AI生成数据训练AI或导致模型崩溃
《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野兔的名字），这凸显出使用可靠数据训练
8个小技巧“用好”大语言模型
用大语言模型，还需要技巧？在人们的印象中，这是个极其简单的操作：只需输入一个问题，立刻就能得到回答。但实际上，如何有效地与这些人工智能模型互动，发挥出它们的最大潜力，却是一个经常被忽视的话题。中国科学技术大学心理学系特任研究员林志成关注到这一话题，并在他最近的评论文章中提供了一系列的策略和指导，希望
人工智能的“偏见”能否消除
图为桑达尔·皮查伊5月14日在加州山景城举行的谷歌I/O大会上发表讲话。自从谷歌对其搜索页面进行改造，经常将AI生成的摘要放在搜索结果顶部，社交媒体上就出现了一些令人不安的错误消息。图片来源：物理学家组织网2024年4月，在卢旺达基加利GIZ数字化转型中心举办的“非洲女孩也能编程”项目的编程训练营中
《自然》封面：以AI生成数据训练AI，模型变傻？
大模型有许多“崩”的时候，但有一种崩溃叫做“自毁前程”—— 近日，《自然》发表在封面的一篇论文指出，用AI生成的数据集训练未来几代机器学习模型，可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示，原始内容会在数代内变成不相关的“胡
《自然》封面：以AI生成数据训练AI，模型变傻？
大模型有许多“崩”的时候，但有一种崩溃叫做“自毁前程”——近日，《自然》发表在封面的一篇论文指出，用AI生成的数据集训练未来几代机器学习模型，可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示，原始内容会在数代内变成不相关的“胡言乱语”
AI论文数量激增但质量下滑：大语言模型重塑科研生态的双刃剑
ChatGPT之后的科研出版变局二〇二二年底ChatGPT对公众和学术界全面开放之后，世界各地的研究者在日常交流中开始频繁告诉同事自己能用这些新的人工智能工具完成更多学术工作；几乎在同一时间，各大科技期刊的编辑们开始报告一个前所未见的现象——语言表达极其流畅自然而科学实质内容似乎并未显著增加的投稿数
AI大模型“拿捏”电池寿命
作为现代生活中不可或缺的能源载体，电池的重要性不言而喻。从清晨唤醒我们的闹钟，到随身携带的手机、平板电脑等智能设备，无一不依赖于电池提供的稳定电力。此外，随着科技的发展，电动汽车、无人机等新兴领域也广泛应用了各类高性能电池，推动了绿色出行和智能科技的进步。因此，电池不仅极大地便利了我们的日常生活，还
AI“模型崩溃”风险需警惕
从客户服务到内容创作，人工智能（AI）影响了众多领域的进展。但是，一个日益严重的被称为“模型崩溃”的问题，可能会使AI的所有成就功亏一篑。“模型崩溃”是今年7月发表在英国《自然》杂志上的一篇研究论文指出的问题。它是指用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出。多家外媒报
AI“模型崩溃”风险需警惕
图片来源：美国《The Week》从客户服务到内容创作，人工智能（AI）影响了众多领域的进展。但是，一个日益严重的被称为“模型崩溃”的问题，可能会使AI的所有成就功亏一篑。“模型崩溃”是今年7月发表在英国《自然》杂志上的一篇研究论文指出的问题。它是指用AI生成的数据集训练未来几代机器学习模型，可能会
生成式AI带来的新思考
过去几个月，ChatGPT为人工智能技术按下加速键。这个聊天程序证明了超大参数模型和通用型人工智能的可行性，谷歌、亚马逊等巨头纷纷推出自主研发的相关平台，国内也已有十数家企业在该领域有所布局。 它们被统称为“生成式人工智能”。简单来说，这种AI可以通过算法生成新内容，包括图像、文字、音乐，甚至视频
生成式AI进军基因编辑领域
OpenCRISPR-1的物理结构，这是一种由Profluent的AI技术创建的基因编辑器。图片来源：singularityhub.com制图、写歌、作诗、编程、生成视频……生成式人工智能（AI）技术与各行业的结合不断为人们带来惊喜，在各领域掀起革新浪潮。现在，AI的应用场景再次拓展：美国AI蛋白质
生成式AI引发治理新思考
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/499199.shtm
面向跨模态遥感数据的生成式预训练大模型发布
以深度学习为代表的人工智能技术已被应用于多种遥感图像解译任务中。遥感数据幅宽大、场景内容复杂，一幅标准景图像往往就可达数十亿像素，覆盖上万平方公里，与自然场景数据存在较大差异。大多数现有的深度神经网络模型是利用自然场景图像预训练的权重来进行初始化，在遥感数据解译任务上的性能和普适性有待进一步提升。中
港科大团队发布香港生成式人工智能大模型
2月25日，由香港科技大学主导成立的研究机构香港生成式人工智能研发中心(HKGAI)发布生成式人工智能大模型HKGAI V1。据了解，HKGAI V1是中国首个基于人工智能大模型“深度求索”(DeepSeek)进行全参数微调、持续训练产生的大模型。该模型以香港最大的大模型本地知识库为支撑，可识别粤语
为何AI儿童故事引发关注？
AI生成的儿童读物正显现出一种诡异的模式：对雌性动物角色明显的偏见。这种偏见在人类创作的书中也存在，但AI把它推向了更极端的程度，因而引发家长与研究者的警觉。去年发表的一项研究中，华盛顿大学信息学助理教授梅兰妮·沃尔什与同事分析了300本儿童读物，发现指代动物角色时，he/him代词的使用频率是sh
AI模型准确进行天气预测与气候模拟
《自然》23日报道了一种人工智能（AI）模型。该模型名为“NeuralGCM”，结合了流体动力学与神经网络，能进行准确的天气预测和气候模拟。模型超越了部分现有模型，与传统模型相比，有望节省大量算力。“NeuralGCM”模型结构。其结合了传统的流体动力学求解器和用于小尺度物理的神经网络。图片来源
AI模型准确进行天气预测与气候模拟
《自然》23日报道了一种人工智能（AI）模型。该模型名为“NeuralGCM”，结合了流体动力学与神经网络，能进行准确的天气预测和气候模拟。模型超越了部分现有模型，与传统模型相比，有望节省大量算力。“NeuralGCM”模型结构。其结合了传统的流体动力学求解器和用于小尺度物理的神经网络。图片来源：谷
警惕AI技术泡沫－梅宏院士呼吁建立完善治理体系
“智能是人类区别于其他动物的专有特征，特别是认知能力，我们可以接受机器在感知能力方面超越人类，但对机器认知智能的研发，需要高度审慎。从科技伦理的视角来看，我们为什么要去造出一个替代我们认知的东西？”11月22日，在以“跨越边界的科技伦理”为主题的第二届中国科技伦理高峰论坛上，中国科学院院士、北京大学
释放AI大模型促消费潜力
今年的《政府工作报告》提出持续推进“人工智能+”行动，旨在抓住人工智能技术突破机遇，使我国数字技术与制造优势、市场规模优势充分结合，推动人工智能大模型广泛应用，真正赋能千行百业、走进千家万户。在构建新发展格局战略背景下，AI大模型在激活内需市场、促进消费升级等方面充满“模”力。 随着人工智能技