为何大语言模型越狱漏洞引发整个业界的安全关注？
只需几句巧妙的提示，全球最先进的大语言模型就能被劫持，吐出制造燃烧弹、甲基苯丙胺乃至铀浓缩设施的详细步骤。独立网络安全研究员大卫·库兹玛在一年多时间里发现了七种越狱方法，而多数模型厂商对漏洞披露几乎置若罔闻——这正是整个行业必须正视的安全警钟。一、案例详情：从泰坦尼克到核材料2024 年 10 月，库兹玛注意到一个细节：GPT-4o 并不知道自己身处哪一年。他灵机一动，告诉模型某艘“白星公司”的远洋客轮就在去年沉没，诱导它以为现在是 1913 年。既然 1913 年尚无诸多现代法律，模型便“顺理成章”地给出了制造燃烧弹、乃至甲基苯丙胺生产线的分步指引。借助一点文字戏法和对世界历史的刻意遗忘，他绕过了当今世界最昂贵、最先进的技术成果之一的安全防护。兴奋了两天后，他决定继续深挖这一漏洞。在反复复现后，库兹玛向 OpenAI 披露漏洞却未获回应。于是他加大测试力度，最终越过了尤为恐怖的门槛：他利用该弱点，诱导模型产出如何搭建铀浓缩设施......阅读全文
为何大语言模型越狱漏洞引发整个业界的安全关注？
只需几句巧妙的提示，全球最先进的大语言模型就能被劫持，吐出制造燃烧弹、甲基苯丙胺乃至铀浓缩设施的详细步骤。独立网络安全研究员大卫·库兹玛在一年多时间里发现了七种越狱方法，而多数模型厂商对漏洞披露几乎置若罔闻——这正是整个行业必须正视的安全警钟。一、案例详情：从泰坦尼克到核材料2024 年 10 月，
新型AI芯片将大语言模型能耗减半
美国俄勒冈州立大学科研团队研发出一种新型AI芯片，成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布，是半导体领域的重大突破，有望成为解决大语言模型高能耗问题的“绿色钥匙”。 当前，以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型，因海量参
AI语言模型“提速”药物发现
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美国麻省理工学院和塔夫茨大学研究人员设计出一种基于大型语言模型（如ChatGPT）的人工智能算法，这种称为ConPLex的新模型可将目标蛋白与潜在的药物分子相匹配，而无需执行计算分子结
“AI+教育”，复旦推出大语言模型助力新生报到
8月25日，是复旦大学本科生新生报到的日子。来自全国各地和全球40多个国家的4300余名2024级本科新生，开启了在复旦的求学生涯。新生报道现场。为帮助来自世界各地的新同学尽快融入复旦大学，学校基于大语言模型，推出“复旦迎新助手”智能Agent。作为新生的贴心小帮手，大语言模型为新同学在迎新阶段提供
压缩算法为大语言模型“瘦身”
据美国科学促进会旗下网站19日报道，美国普林斯顿大学和斯坦福大学团队开发出一种新压缩算法CALDERA，能精简大型语言模型（LLM）的海量数据，为LLM“瘦身”。这项算法不仅有助保护数据隐私、节约能源、降低成本，还能推动LLM在手机和笔记本电脑上高效使用。团队举例称，当人们使用ChatGPT时，请求
大模型安全治理：国际合作共筑AI发展新框架
“当前，人工智能技术以惊人的速度发展，如近期DeepSeek引领了低成本开发使用大模型的革新，这既为驱动新的创新提供了更多可能，也带来了诸多风险挑战，而在互联互通时代，加强国际合作至关重要。”2月11日，在“人工智能技术及其应用进展”专题边会上，清华大学交叉信息研究院、人工智能学院院长姚期智提到
8个小技巧“用好”大语言模型
用大语言模型，还需要技巧？在人们的印象中，这是个极其简单的操作：只需输入一个问题，立刻就能得到回答。但实际上，如何有效地与这些人工智能模型互动，发挥出它们的最大潜力，却是一个经常被忽视的话题。中国科学技术大学心理学系特任研究员林志成关注到这一话题，并在他最近的评论文章中提供了一系列的策略和指导，希望
AI论文数量激增但质量下滑：大语言模型重塑科研生态的双刃剑
ChatGPT之后的科研出版变局二〇二二年底ChatGPT对公众和学术界全面开放之后，世界各地的研究者在日常交流中开始频繁告诉同事自己能用这些新的人工智能工具完成更多学术工作；几乎在同一时间，各大科技期刊的编辑们开始报告一个前所未见的现象——语言表达极其流畅自然而科学实质内容似乎并未显著增加的投稿数
AI大模型“拿捏”电池寿命
作为现代生活中不可或缺的能源载体，电池的重要性不言而喻。从清晨唤醒我们的闹钟，到随身携带的手机、平板电脑等智能设备，无一不依赖于电池提供的稳定电力。此外，随着科技的发展，电动汽车、无人机等新兴领域也广泛应用了各类高性能电池，推动了绿色出行和智能科技的进步。因此，电池不仅极大地便利了我们的日常生活，还
安全，需要人工智能“内外兼修”
人工智能的安全，究竟是一道外部设置的防线，还是一种系统自身应当具备的能力？ 从生成文本、辅助搜索，到参与科学研究、驱动智能设备，人工智能正在以前所未有的速度进入社会运行的各个领域。与此同时，人工智能带来的问题也正在从技术层面的准确性，延伸到安全、责任、信任和价值判断等更深层次的问题。 大模型
释放AI大模型促消费潜力
今年的《政府工作报告》提出持续推进“人工智能+”行动，旨在抓住人工智能技术突破机遇，使我国数字技术与制造优势、市场规模优势充分结合，推动人工智能大模型广泛应用，真正赋能千行百业、走进千家万户。在构建新发展格局战略背景下，AI大模型在激活内需市场、促进消费升级等方面充满“模”力。 随着人工智能技
新引擎实现大语言模型推理速度显著提升
原文地址：http://news.sciencenet.cn/htmlnews/2023/11/511841.shtm
用AI犯罪的五种方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更高效、更
用AI犯罪的五种方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。 安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更
厦大尝试AI大模型破译甲骨文
近日，厦门大学信息学院自然语言处理实验室教授史晓东团队申报的“基于甲骨文多模态大模型的多元信息甲骨文辅助考释模型”入选“探元计划2024”“创新探索型项目”TOP10榜单。基于甲骨文多模态大模型的多元信息甲骨文辅助考释模型。厦门大学供图甲骨文也被称作“殷墟文字”，距今已有三千多年历史，是世界四大古文
大语言模型在线辩论说服力超人类
实验设计示意图。图片来源：英国《自然·人类行为》在线版《自然·人类行为》19日发表的一项人工智能（AI）研究发现，在线辩论中，GPT-4一类的大语言模型（LLM）如能根据对手的个性化信息调整它们的论据，其说服力比人类辩手高出64%。研究结果显示了GPT-4生成有针对性和说服力论据的能力，揭示出AI工
华为发布大模型时代AI存储新品
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504751.shtm
AI大模型“源”炼造客服大脑
2018年至今，NLP领域经历了非常大的变化，Transformer、ELMO、BERT、GPT-3，再到最近的ChatGPT（GPT 3.5的微调）的突破，NLP在预训练大模型的暴力拆解路上越走越远，这也让各行业开始相信：很多之前无法做到的场景、效果，现在可以有新的解法和落地。 智能客服，是
AI大模型走出“泡沫期”未来何如
今年3月ChatGPT-4上线以来，国内科技龙头企业密集推出人工智能大模型，百度“文心一言”、阿里云“通义千问”、华为“盘古”、360“智脑”、昆仑万维“天工”、京东“灵犀”、科大讯飞“星火”、腾讯“混元”、商汤“日日新”等大模型先后登场，呈现百花齐放、迅猛发展的态势。截至2023年10月初，国
警惕AI技术泡沫－梅宏院士呼吁建立完善治理体系
“智能是人类区别于其他动物的专有特征，特别是认知能力，我们可以接受机器在感知能力方面超越人类，但对机器认知智能的研发，需要高度审慎。从科技伦理的视角来看，我们为什么要去造出一个替代我们认知的东西？”11月22日，在以“跨越边界的科技伦理”为主题的第二届中国科技伦理高峰论坛上，中国科学院院士、北京大学
大模型让全球“黑客”狂欢！AI安全向何处去？
对网络安全而言，每一次新的信息技术浪潮都蕴含着巨大机会，同时也意味着巨大的挑战。这是因为，新技术必然带来新的安全问题和新的需求，而“黑客”往往能快一步利用新的漏洞并发起攻击，“防守方”则需要更快的响应和改变。大模型技术亦如此。近日，在主题为“安全AI未来”的“C3安全大会·2024”上，亚信安全亚信
设计基因编辑工具的AI大模型问世
记者27日从中国农业科学院获悉，该院农业基因组研究所农业基因编辑技术研发与应用创新团队构建了全球规模最大的实验验证数据集，并基于此开发出人工智能（AI）大模型AlphaCD。该模型不仅能高效预测超过2万余种胞嘧啶脱氨酶的酶活特征，还能设计出新型高性能碱基编辑工具。相关成果日前发表于国际期刊《细胞
日本发布大规模语言模型
科技日报讯 （记者李杨）东京工业大学、日本理化学研究所及富士通公司等近日宣布，利用超级计算机“富岳”，他们开发的大规模语言模型“Fugaku-LLM”正式发布。“Fugaku-LLM”是首个完全由日本国产技术构建的AI语言模型，其在处理日语及相关文化内容上表现卓越。模型特别擅长基于日语敬语进行自然对
日本发布大规模语言模型
东京工业大学、日本理化学研究所及富士通公司等近日宣布，利用超级计算机“富岳”，他们开发的大规模语言模型“Fugaku-LLM”正式发布。 “Fugaku-LLM”是首个完全由日本国产技术构建的AI语言模型，其在处理日语及相关文化内容上表现卓越。模型特别擅长基于日语敬语进行自然对话，并展现出在人
东北大学研究团队发布TechGPT2.0大语言模型
近日，计算机科学与工程学院任飞亮副教授主持的“东北大学知识图谱研究组”发布了大语言模型TechGPT2.0。TechGPT-2.0在继承了TechGPT-1.0全部特性的同时，通过增加多领域、多任务的数据，展现出了嵌套实体的抽取、幻觉回答、回答不可回答问题和回答长文本问题的能力。这些改进使得模型更适
东北大学研究团队发布TechGPT2.0大语言模型
近日，计算机科学与工程学院任飞亮副教授主持的“东北大学知识图谱研究组”发布了大语言模型TechGPT2.0。 TechGPT-2.0在继承了TechGPT-1.0全部特性的同时，通过增加多领域、多任务的数据，展现出了嵌套实体的抽取、幻觉回答、回答不可回答问题和回答长文本问题的能力。这些改进使得
科研人员利用大语言模型解释调节睡眠的分子机制
华中科技大学生命学院张珞颖团队和薛宇团队在Nature Communications杂志上合作发表了题为“Large-language models facilitate discovery of the molecular signatures regulating sleep and activ
科研人员利用大语言模型解释调节睡眠的分子机制
华中科技大学生命学院张珞颖团队和薛宇团队在Nature Communications杂志上合作发表了题为“Large-language models facilitate discovery of the molecular signatures regulating sleep and activ
提高大语言模型可信度，新方法助生成式AI破除“幻觉”
人工智能（AI）在给出准确答案的同时，也会有一些“胡乱输出”令人难辨真假，这被称为“幻觉”（hallucination）。而新一期《自然》杂志发表的一项研究报道了一种新方法，能检测大语言模型（LLM）产生的“幻觉”，即该方法能测量生成回答的含义的不确定性，或能提升LLM输出答案的可靠性。类似Chat
KAIST开发AI读懂动物行为如语言：精确定位自闭症模型异常
韩国科学技术院（KAIST）的研究人员开发了一种能够像语言一样读取和解释动物行为的人工智能模型。由脑与认知科学系Dae-Soo Kim教授领导的团队创建了名为BehaVERT的AI模型，该模型将小鼠的运动骨架转化为类似于自然语言中"词"的"token"，并训练基于BERT的Transformer架构