ChatGPT生成的代码大部分不安全，但不会主动告诉你
ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现，ChatGPT 生成的代码往往存在严重的安全问题，而且它不会主动提醒用户这些问题，只有在用户询问时才会承认自己的错误。研究人员在一篇论文中介绍了他们的发现，IT之家查看该论文发现，他们让 ChatGPT 生成了 21 个程序和脚本，涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞，比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。结果显示，ChatGPT 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后，该大型语言模型设法生成了 7 个更安全的应用程序，不过这只是与正在评估的特定漏洞有关的“安全”，并不是说最终的代码不存在任何其他可利用的漏洞。研究人员指出，ChatGPT 的部分问题是由于它没有考虑敌对的代码执行模型。它会......阅读全文
大模型让全球“黑客”狂欢！AI安全向何处去？
对网络安全而言，每一次新的信息技术浪潮都蕴含着巨大机会，同时也意味着巨大的挑战。这是因为，新技术必然带来新的安全问题和新的需求，而“黑客”往往能快一步利用新的漏洞并发起攻击，“防守方”则需要更快的响应和改变。大模型技术亦如此。近日，在主题为“安全AI未来”的“C3安全大会·2024”上，亚信安全亚信
复旦MOSS团队：研究成果将会开源！
原文地址：http://news.sciencenet.cn/htmlnews/2023/3/495039.shtm 由美国OpenAI公司开发的ChatGPT模型在全球点燃了新一轮AI革命，海内外关注度陡增。前不久，复旦大学计算机科学技术学院邱锡鹏团队发布类ChatGPT模型MOSS，新闻迅速
复旦MOSS团队：研究成果将会开源！
由美国OpenAI公司开发的ChatGPT模型在全球点燃了新一轮AI革命，海内外关注度陡增。前不久，复旦大学计算机科学技术学院邱锡鹏团队发布类ChatGPT模型MOSS，新闻迅速登上微博热搜。 MOSS“火”了。2月20日发布当天就收到大量内测申请、采访、投资、合作邀约——公众对于这项原本局
用ChatGPT伪造手稿，十几篇论文被曝光
原文地址：http://news.sciencenet.cn/htmlnews/2023/10/509994.shtm 8月9日，一篇关于复杂数学方程新解的论文发表在了物理学领域期刊Physica Scripta上。乍一看，文章内容似乎没什么问题。然而，法国图卢兹大学的计算机科学家兼科学侦探Gu
“认知卸载”，人类大脑会陷入舒适区吗
17世纪法国哲学家、数学家布莱兹·帕斯卡尔曾言：“人是一根会思考的芦苇。”人的全部尊严，便在于思想。然而，当ChatGPT能一秒钟生成一篇论文，当Claude能瞬间梳理出复杂的逻辑脉络，一个疑问开始出现：这根“会思考的芦苇”是否正在枯萎？人类是否正为了便利，主动交出自己的思考权？ 美国纽约州立
人工智能大举“入侵”科学搜索引擎
当前，互联网搜索引擎中出现了越来越多的人工智能（AI）聊天机器人，如谷歌的Bard、微软的Bing等。这似乎将要改变科学搜索引擎。 据《自然》报道，8月1日，荷兰出版业巨头爱思唯尔向其Scopus数据库的部分用户发布了一个基于ChatGPT的AI界面。当天，英国数字科学公司（Digital S
李开复：AI－2.0带来的“新生”与“危机”
“AI 2.0将是提升 21 世纪整体社会生产力最为重要的赋能技术。”3月14日，在北京创新工场总部举办的 “AI 1.0 到 AI 2.0 的新机遇”趋势分享会上，创新工场董事长兼首席执行官、创新工场人工智能工程院院长李开复表示，在深度学习的重大突破之后，AI 已经来到从 1.0 迈入 2.0 的
科研按下“快进键”，AI成为实验室里“超级助手”
2025年伊始，DeepSeek横空出世，在全球人工智能行业掀起了惊涛骇浪。当前，人工智能正以前所未有的速度，全面渗透到科学研究的各个领域。2月19日，世界互联网大会人工智能专委会，召开了“人工智能赋能科学研究研讨会”，与会专家一致认为，人工智能技术的发展正深刻改变着科学研究的方法和手段，过去形成的
火山引擎数智平台推出“AI助手”，助力智能科技发展
火山引擎数智平台日前推出“AI助手”，通过接入人工智能大模型，帮助企业提升数据处理和查询分析的效率。即使是不会写代码的运营人员，和大模型对话也能做好业务运营数据的取数、看数和归因分析。目前，相关数据产品已启动邀测。 数据资产的查询和开发，是数据消费的基础。以往，数据资产的检索和开发非常依赖专业
“聪明的小孩”确实有“ChatGPT那味儿”
原文地址：http://news.sciencenet.cn/htmlnews/2023/3/495355.shtm前不久，复旦大学计算机科学技术学院邱锡鹏团队发布类ChatGPT模型MOSS的新闻迅速登上微博热搜。2月20日，MOSS发布当天就收到大量内测申请、采访、投资、合作邀约——公众对这项原
多国加快推进人工智能应用监管
随着聊天机器人ChatGPT等人工智能（AI）应用快速发展，全球监管机构也在加快探索如何妥善进行监管，在鼓励技术创新的同时保护公众利益。 据美联社报道，美国联邦贸易委员会25日表示，政府将毫不犹豫地打击涉及人工智能的有害商业行为。 美国联邦贸易委员会主席莉娜·汗与美国公民权利和消费者保护机构的代
AI尚不具备独立临床诊疗的能力
尽管人工智能（AI）在医疗领域的应用日益增多，但其“像医生一样思考”的能力仍存在明显短板。由美国麻省总医院MESH孵化器团队开展的一项最新研究发现，生成式AI在临床推理关键环节仍显不足，尚不具备独立承担临床诊疗任务的能力。相关成果发表在最新一期《JAMA Network Open》上。 团队选
AI会威胁人类？“教父们”也有分歧：Meta首席科学家称完全是胡说八道
Meta首席人工智能科学家、有“AI教父”之称的杨立昆（Yann LeCun）似乎并不不担心人工智能会对人类构成威胁。 他在接受最新采访时详细阐述了自己的观点，并在回答有关AI是否聪明到足以对人类构成威胁的问题时，他说道：“请原谅我的法语不好，但这完全是胡说八道。” 杨立昆认为，当今的大型语
一年零一月，文心大模型进化成AI创造“底牌”
“未来，自然语言将成为新的通用编程语言。”4月16日，Create 2024百度AI开发者大会在深圳举行。百度公司董事长兼首席执行官李彦宏作“人人都是开发者”的主题演讲，并带来了“开箱即用”的三大AI开发工具——智能体开发工具AgentBuilder、AI原生应用开发工具AppBuilder、各种尺
AI写作仍无法媲美人类
图片来源：COREDESIGN/SHUTTERSTOCK本报讯 只需敲几下键盘，任何人都可以要求ChatGPT等人工智能（AI）程序写一篇论文，或创作一首歌曲、一部戏剧，但不要指望它具有威廉·莎士比亚的独创性。一项新研究发现，这种AI产出的作品仍然是衍生品——至少目前是这样。近日，研究人员设计出一个
“人工智能+”，加什么？
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519704.shtm去年，AI语言大模型ChatGPT的诞生引发了全球人工智能浪潮，随着视频生成模型Sora的发布，以AIGC（Artificial Intelligence Generated Cont
新引擎实现大语言模型推理速度显著提升
原文地址：http://news.sciencenet.cn/htmlnews/2023/11/511841.shtm
人工智能新模型可解码DNA隐藏“语言”
科技日报北京8月6日电 （记者张佳欣）DNA包含了维持生命所需的基础信息。理解这些信息是如何存储和组织的，一直是20世纪最大的科学挑战之一。现在，借助GROVER这一基于人类DNA训练的新型大型语言模型，研究人员有望解码基因组中隐藏的复杂信息。GROVER由德国德累斯顿工业大学生物技术中心开发，它将
我国学者提出用好大语言模型实用策略
当前，大语言模型的应用日益广泛，覆盖从文本生成到复杂问题解决等多个领域，如何更好利用AI工具？记者10日从中国科学技术大学获悉，该校心理学系林志成特任研究员近日在其评论文章中研究提出一项实用策略，帮助更好理解和利用先进的人工智能工具，有效发挥人工智能模型交互的最大潜力。在《自然人类行为》(Natur
人工智能新模型可解码DNA隐藏“语言”
DNA包含了维持生命所需的基础信息。理解这些信息是如何存储和组织的，一直是20世纪最大的科学挑战之一。现在，借助GROVER这一基于人类DNA训练的新型大型语言模型，研究人员有望解码基因组中隐藏的复杂信息。GROVER由德国德累斯顿工业大学生物技术中心开发，它将人类DNA视为文本，通过学习其规则和上
人工智能新模型可解码DNA隐藏“语言”
DNA包含了维持生命所需的基础信息。理解这些信息是如何存储和组织的，一直是20世纪最大的科学挑战之一。现在，借助GROVER这一基于人类DNA训练的新型大型语言模型，研究人员有望解码基因组中隐藏的复杂信息。GROVER由德国德累斯顿工业大学生物技术中心开发，它将人类DNA视为文本，通过学习其规则和上
人工智能新模型可解码DNA隐藏“语言”
DNA包含了维持生命所需的基础信息。理解这些信息是如何存储和组织的，一直是20世纪最大的科学挑战之一。现在，借助GROVER这一基于人类DNA训练的新型大型语言模型，研究人员有望解码基因组中隐藏的复杂信息。GROVER由德国德累斯顿工业大学生物技术中心开发，它将人类DNA视为文本，通过学习其规则
人工智能新模型可解码DNA隐藏“语言”
DNA包含了维持生命所需的基础信息。理解这些信息是如何存储和组织的，一直是20世纪最大的科学挑战之一。现在，借助GROVER这一基于人类DNA训练的新型大型语言模型，研究人员有望解码基因组中隐藏的复杂信息。GROVER由德国德累斯顿工业大学生物技术中心开发，它将人类DNA视为文本，通过学习其规则和上
我国学者提出用好大语言模型实用策略
中新网合肥5月10日电 (记者 吴兰)当前，大语言模型的应用日益广泛，覆盖从文本生成到复杂问题解决等多个领域，如何更好利用AI工具？记者10日从中国科学技术大学获悉，该校心理学系林志成特任研究员近日在其评论文章中研究提出一项实用策略，帮助更好理解和利用先进的人工智能工具，有效发挥人工智能模型交互的最
“火爆”的ChatGPT尚没有“自主心智”
近日，围绕热门科技话题ChatGPT，科技日报记者专访了欧洲科学院院士、德国比勒菲尔德大学洪堡人工智能教席教授金耀初。金教授同时兼任英国萨里大学计算系“计算智能”讲席教授 、IEEE计算智能学会候任理事长，曾任《IEEE认知与发育系统汇刊》主编等职。生成式模型的重大进展 谈到ChatGPT最核心
AI“参与”同行评审喜忧参半
今年2月，加拿大蒙特利尔大学生态学家蒂莫西·波伊索在审阅自己论文的评审意见时，意外发现其中一份评审报告可能由AI代笔。他对此感到愤怒并在博客中痛斥：我递交论文参与评审，期待的是同行的思想碰撞。若这一前提不再，那么同行评审制度将沦为数字废墟。 英国《自然》杂志网站在3月27日的报道中指出，AI系
ChatGPT创始人呼吁加强对AI技术监管
原文地址：http://news.sciencenet.cn/htmlnews/2023/5/500782.shtm
面对ChatGPT，需要“另一种自信”
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502759.shtm 智慧大屏“魔墙”运用AI技术，将沪上地标建筑、演艺剧目、上博文物等进行触屏展示，带来沉浸式互动体验。（主办方供图）随着人工智能愈发深度参与到文化艺术创作中，很多人“坐不住了”
面对ChatGPT，需要“另一种自信”
智慧大屏“魔墙”运用AI技术，将沪上地标建筑、演艺剧目、上博文物等进行触屏展示，带来沉浸式互动体验。（主办方供图）随着人工智能愈发深度参与到文化艺术创作中，很多人“坐不住了”，文学界、影视圈、流行音乐等多个领域持续掀起一波波热议——一段AI制作的虚拟表演视频，让演员张颂文直呼“吓得失眠”，担忧“演员
AI推理芯片激发新一轮应用创新
随着ChatGPT横空出世，人工智能（AI）领域的竞争进入白热化。英伟达公司的高端图形处理单元（GPU）芯片“一飞冲天”，受到各大科技公司追捧。与此同时，也有一些初创公司另辟蹊径，专注于研制另一种芯片——AI推理芯片，为AI产品的蓬勃发展和应用注入全新动力。 据物理学家组织网近日报道，这些AI