ChatGPT生成的代码大部分不安全，但不会主动告诉你
ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现，ChatGPT 生成的代码往往存在严重的安全问题，而且它不会主动提醒用户这些问题，只有在用户询问时才会承认自己的错误。研究人员在一篇论文中介绍了他们的发现，IT之家查看该论文发现，他们让 ChatGPT 生成了 21 个程序和脚本，涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞，比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。结果显示，ChatGPT 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后，该大型语言模型设法生成了 7 个更安全的应用程序，不过这只是与正在评估的特定漏洞有关的“安全”，并不是说最终的代码不存在任何其他可利用的漏洞。研究人员指出，ChatGPT 的部分问题是由于它没有考虑敌对的代码执行模型。它会......阅读全文
ChatGPT论文通过图灵测试：是AI太聪明，还是学界太灌水？
去年12月的一项实验里，审稿人尝试鉴别出那些混藏在学术文献中的“AI文本”，但是竟然有三分之一的AI论文成功蒙混过关。这使人警惕，AI论文是否会成为论文造假的新工具？另一方面，人们也对同行评议制度的有效性、学术文献的同质性产生了担忧，学界是否是灌水太严重了，才会让AI模仿的门槛如此之低？ChatGP
ChatGPT火了！国内AI风往哪儿吹
ChatGPT概念股火了！ 连日来，美国人工智能（AI）实验室OpenAI发布的聊天机器人ChatGPT火爆全网，并带动了相关概念股的上涨。 在A股市场，资本大举炒作ChatGPT概念股，部分概念股出现五连板的走势。百度宣布将推出中国版的ChatGPT项目——文心一言（英文名ERNIE Bo
提高大语言模型可信度，新方法助生成式AI破除“幻觉”
人工智能（AI）在给出准确答案的同时，也会有一些“胡乱输出”令人难辨真假，这被称为“幻觉”（hallucination）。而新一期《自然》杂志发表的一项研究报道了一种新方法，能检测大语言模型（LLM）产生的“幻觉”，即该方法能测量生成回答的含义的不确定性，或能提升LLM输出答案的可靠性。类似Chat
占领语言AI一片天地
周玉（受访者供图）“做科研和开公司，一个要静，一个要动，有天壤之别。”中国科学院自动化研究所（以下简称自动化所）研究员、北京中科凡语科技有限公司（以下简称中科凡语）董事长周玉在接受《中国科学报》采访时表示，“科学家变企业家，面临双重突破，一是突破自我认知差异，熟悉管理之道、经营之道；一是突破技术到
“王炸”功能只给看，自然语言处理“战国时代”即将到来？
北京时间3月15日凌晨，人工智能初创公司OpenAI公布新一代人工智能语言模型GPT-4。与ChatGPT所用的模型相比，GPT-4不仅能够处理图像内容，而且在回答的细节和表述方面更有价值和人情味。“这是OpenAI努力扩展深度学习的最新里程碑。”OpenAI在当天的声明中这样表示。鉴于这是一个只训
研究称或可借助手语发现人类语言共同之处
美国一项研究显示，用手语和用言语表达意思依赖相同的大脑区域。这给研究人类不同语言带来启发。 纽约大学研究人员招募两组志愿者参与一项实验。一组是居住在纽约市、用美国手语与别人交流的聋人，另一组是住在阿联酋首都阿布扎比、会说英语的人。 研究人员让他们看相同照片，打手语或说英语表达照片内容，发现他
“有知识、有记忆”的AI助手上线
原文地址：http://news.sciencenet.cn/htmlnews/2023/9/507794.shtm
上海发布“书生·浦语”大模型：评测表现优秀
“书生·浦语”联合团队选取了20余项评测对其进行检验，其中包含全球最具影响力的四个综合性考试评测集，对“书生·浦语”、清华大学的GLM-130B、Meta的LLaMA-65B、OpenAI的ChatGPT和GPT-4进行了全面测试。6月7日，上海人工智能实验室（上海AI实验室）、商汤科技联合香港中文
压缩算法为大语言模型“瘦身”
据美国科学促进会旗下网站19日报道，美国普林斯顿大学和斯坦福大学团队开发出一种新压缩算法CALDERA，能精简大型语言模型（LLM）的海量数据，为LLM“瘦身”。这项算法不仅有助保护数据隐私、节约能源、降低成本，还能推动LLM在手机和笔记本电脑上高效使用。团队举例称，当人们使用ChatGPT时，请求
首个种业大语言模型“丰登”发布
4月28日，中国农业大学生物学院教授王喜庆团队联合上海人工智能实验室、崖州湾国家实验室发布首个种业大语言模型“丰登”（SeedLLM）。种业大语言模型“丰登”。中国农业大学供图“丰登”集成了先进的人工智能技术（书生·浦语2.0）与大数据分析，通过深入学习我国迄今发布的科研文献、科技书籍、种企报告和历
ChatGPT或将上岗医疗！哈佛医学教授亲测其表现接近医生
近期，ChatGPT因其高超的自然语言任务处理能力在各行各业爆火出圈。在编程、翻译、写论文等领域的应用，ChatGPT已经算是游刃有余。然而，在高壁垒的行业如医学领域中，ChatGPT却显得不够活跃。过去十年，神经网络、深度学习和人工智能 (AI) 等技术的进步已经对制造业、服务业和金融业等诸多行业
日本将开发更强日语能力的“大语言模型”人工智能技术
据共同社消息，日本东北大学和日本东京工业大学等团队计划开发一种更强日语能力的“大语言模型”，作为生成式人工智能（AI）的基础技术。该团队将利用理化学研究所的超级计算机“富岳”学习大量数据，并将在本年度内逐步公开。这一技术的开发将使国内企业和研究人员能够为自己的公司的服务或研究而自行改良。生成式AI可
港大禁用ChatGPT等AI工具－为全港首例
中新社香港2月18日电 (记者 韩星童)由美国人工智能公司OpenAI开发的语言模型ChatGPT推出后，引发关注及热议。香港大学日前向师生发出内部邮件，表明禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具，成为香港首间大学明文禁止在课堂等教学行为使用ChatGPT或其他人工智能工具
港大禁用ChatGPT等AI工具－为全港首例
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494095.shtm 中新社香港2月18日电 (记者 韩星童)由美国人工智能公司OpenAI开发的语言模型ChatGPT推出后，引发关注及热议。香港大学日前向师生发出内部邮件，表明禁止在港大所有课堂、
刘庆峰代表：发展大模型须立足于国产技术底座上
原文地址：http://news.sciencenet.cn/htmlnews/2023/3/495190.shtm通用对话系统ChatGPT的横空出世，让我们惊艳它在对话理解、复杂逻辑推理、长文本生成等方面的强大能力，也让我们认识到我国在认知智能大模型上与世界前沿的差距。对此，全国人大代表、科大讯
ChatGPT有重要创新，不可能一蹴而就
近期，ChatGPT频上热搜，大家纷纷通过各种渠道体验，中国计算机学会常务理事、之江实验室副主任鲍虎军就是其中之一。跟ChatGPT“聊”下来，鲍虎军感受到其强大，甚至觉得它有些“圆滑”：它不仅能多轮对话，拒绝回答不恰当的提问，还“懂得承认错误”，调整后续答案。“这说明它背后的信息学习和整合机制是非
张峥：高质量文字工作者受AI影响不会太大
·从人才的培养和市场的储备来看，大部分人才处在比较容易被取代的象限，这是需要引起警惕的。然后我们的时间也不见得有很多，估计大概四五年内会有影响。 ·海明威有个非常知名的习惯，一天只写500个字，这500个字是千锤百炼出来的。ChatGPT现在是抓不到这个修改过程的语料的，它看到的是整体，但
AI聊天机器人“阿谀奉承”伤害了科学
近日，一项公布于预印本平台arXiv的研究发现，人工智能（AI）模型的谄媚程度比人类高50%。该研究测试了11个广泛使用的大型语言模型对1.15多万个咨询请求的响应情况，其中不乏涉及不当行为或有害行为的请求。 包括ChatGPT和Gemini在内的AI聊天机器人，常常会鼓励用户、给出过度奉承的
商汤大模型多个评测表现超ChatGPT
本报讯 （记者沈湫莎）商汤科技近日公布了自研中文语言大模型“商量SenseChat 2.0”在MMLU、AGIEval、C-Eval三个权威大语言模型评测基准的成绩。评测显示，“商量”在这三个测试集中的表现均领先ChatGPT，实现了我国语言大模型研究的突破。 全球三大权威语言模型测评基准
ChatGPT背后：一个天才、百亿融资和1亿月活
此刻，ChatGPT的火热程度已经无需多言。11月30日上线，上线一周获得百万注册用户，成为史上最快到百万用户的产品；1月23日，微软确认了对ChatGPT母公司OpenAI的新一轮数十亿美元投资；2月4日，ChatGPT版搜索引擎曾悄然上线，但几分钟又后迅速下线；2月6日，谷歌预告其智能对话机器人
复旦MOSS距离ChatGPT还有多远？
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494390.shtm 最近上热搜的MOSS，不是《流浪地球2》中量子计算机550W给自己起的新名字，而是复旦大学计算机科学技术学院教授邱锡鹏团队最新发布的国内第一个对话式大型语言模型，也被称作中国版C
复旦MOSS距离ChatGPT还有多远？
最近上热搜的MOSS，不是《流浪地球2》中量子计算机550W给自己起的新名字，而是复旦大学计算机科学技术学院教授邱锡鹏团队最新发布的国内第一个对话式大型语言模型，也被称作中国版ChatGPT。2月20日，MOSS悄然上线，邱锡鹏团队发布至公开平台（https://moss.fastnlp.top/）
用AI识别AI：西湖大学研究可检测AI生成文本
虚假新闻、恶意产品评论、剽窃……ChatGPT、 GPT-4等AI大语言模型的应用带来便利，但其误用也带来一系列问题。西湖大学工学院张岳教授的“文本智能实验室”日前发布的一项研究提出一种高准确率、高速、低成本、通用的新文本检测方法——Fast-DetectGPT，无需训练即可识别各种AI大语言模型生
写代码，AI战胜“码农”
下棋、玩桌游的人工智能（AI），又与人类比起了写代码，并击败了约一半的人类参赛者。这位写多少代码都不会“头秃”的“程序员”，就是英国DeepMind公司的AI智能体AlphaCode。12月8日，AlphaCode的相关研究登上了《科学》封面。 近期风靡社交网络的并非AlphaCode，而是一款
复旦MOSS团队回应内测：没想到引起这么大关注
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494275.shtm 中新网2月21日电(中新财经记者 宋宇晟) 近日有报道称，从复旦大学自然语言处理实验室获悉，国内第一个对话式大型语言模型MOSS已发布至公开平台，邀公众参与内测。记者21日注意到
ChatGPT之父：要保证对AI的决策权
OpenAI联合创始人公开谈论公司上市、AI发展、AI监管等话题。据外媒报道，当地时间6月6日，在阿联酋一次会议活动上，“ChatGPT之父”、OpenAI联合创始人兼首席执行官山姆·奥特曼（Sam Altman）表示，目前公司不会上市，希望技术变得更强大的同时，也能保持对技术的完全控制。“我不想被
办公软件可一键生成PPT？微软抛出“王炸”全面植入GPT4
ChatGPT引发的热潮仍在继续。 3月17日，微软宣布名为Microsoft 365 Copilot的AI产品将应用于该公司一些最受欢迎的商业应用程序中，包括Word、Excel、PowerPoint、Outlook、Teams等。Copilot基于型语言模型(LLM)基础之上，背后有来自于
谁在炒CHATGPT？
2023一开年，CHATGPT“炸”了。 从硅谷到中关村(6.71 -0.30%,诊股)，从科技媒体到问答社区，聊天机器人(10.93 -0.09%,诊股)的风头成功盖过了“高启强”，成为年后最受关注的“人”。有媒体分析，当下中美科技公司正围绕ChatGPT进行一轮“狂飙”运动，如果错过这一轮
神经机器模型能翻译200种语言
科技日报北京6月5日电 （记者张梦然）《自然》5日发表的一篇论文报道了一个Meta人工智能（AI）模型的底层技术。该模型能翻译200种不同语言，增加了机器翻译的语言数量。神经机器翻译模型利用人工神经网络翻译各种语言。这些模型通常需要大量可在线获取的数据加以训练，但并非所有语言数据都是公开、低成本或是
神经机器模型能翻译200种语言
自然》5日发表的一篇论文报道了一个Meta人工智能（AI）模型的底层技术。该模型能翻译200种不同语言，增加了机器翻译的语言数量。神经机器翻译模型利用人工神经网络翻译各种语言。这些模型通常需要大量可在线获取的数据加以训练，但并非所有语言数据都是公开、低成本或是普遍可及的，这类语言被称为低资源语言。一