ChatGPT生成的代码大部分不安全，但不会主动告诉你
ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现，ChatGPT 生成的代码往往存在严重的安全问题，而且它不会主动提醒用户这些问题，只有在用户询问时才会承认自己的错误。研究人员在一篇论文中介绍了他们的发现，IT之家查看该论文发现，他们让 ChatGPT 生成了 21 个程序和脚本，涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞，比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。结果显示，ChatGPT 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后，该大型语言模型设法生成了 7 个更安全的应用程序，不过这只是与正在评估的特定漏洞有关的“安全”，并不是说最终的代码不存在任何其他可利用的漏洞。研究人员指出，ChatGPT 的部分问题是由于它没有考虑敌对的代码执行模型。它会......阅读全文
ChatGPT将变身AI语音助手？挑战Siri和谷歌语音助手
新品发布在即，奥特曼的最新表态或暗示OpenAI意在人工智能语音助手。当地时间5月11日，人工智能（AI）巨头OpenAI CEO山姆·奥特曼（Sam Altman）在一档播客节目中称，OpenAI将继续改进并提升ChatGPT的语音功能质量，并表示相信语音交互是通向未来交互方式的一个重要途径。奥特
ChatGPT生成的代码大部分不安全，但不会主动告诉你
ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现，ChatGPT 生成的代码往往存在严重的安全问题，而且它不会主动提醒用户这些问题，只有在用户询问时才会承认自己的错误。研究人员在一篇论文中介绍了他们的发现，IT之家查看该论文发现，他们
ChatGPT进入课堂：语言模型如何改变教育
最近，教育心理学家罗纳德·贝格托（Ronald Beghetto）以一种引人注目的方式引领一群研究生和教育专业人员，与一系列以创造力为中心的聊天机器人进行了交流。这些聊天机器人由贝格托设计，即将托管在亚利桑那州立大学（ASU）设立的平台上。这些机器人使用与ChatGPT相同的人工智能（AI）技术，目
AI语言模型“提速”药物发现
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美国麻省理工学院和塔夫茨大学研究人员设计出一种基于大型语言模型（如ChatGPT）的人工智能算法，这种称为ConPLex的新模型可将目标蛋白与潜在的药物分子相匹配，而无需执行计算分子结
中外青年热议生成式AI的局限
近日，国家网信办发布了《生成式人工智能（AI）服务管理办法（征求意见稿）》，针对面向中国境内公众提供服务的生成式人工智能产品，包括其研发及服务，向社会公开征求管理意见。 生成式AI正是当前以ChatGPT等智能聊天机器人为代表的技术。自去年11月ChatGPT发布以来，其展示的与人类高度相似的
中外青年热议生成式AI的局限
近日，国家网信办发布了《生成式人工智能（AI）服务管理办法（征求意见稿）》，针对面向中国境内公众提供服务的生成式人工智能产品，包括其研发及服务，向社会公开征求管理意见。生成式AI正是当前以ChatGPT等智能聊天机器人为代表的技术。自去年11月ChatGPT发布以来，其展示的与人类高度相似的对话能力
新型AI芯片将大语言模型能耗减半
美国俄勒冈州立大学科研团队研发出一种新型AI芯片，成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布，是半导体领域的重大突破，有望成为解决大语言模型高能耗问题的“绿色钥匙”。 当前，以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型，因海量参
“AI+教育”，复旦推出大语言模型助力新生报到
8月25日，是复旦大学本科生新生报到的日子。来自全国各地和全球40多个国家的4300余名2024级本科新生，开启了在复旦的求学生涯。新生报道现场。为帮助来自世界各地的新同学尽快融入复旦大学，学校基于大语言模型，推出“复旦迎新助手”智能Agent。作为新生的贴心小帮手，大语言模型为新同学在迎新阶段提供
大连化物所发布“氢能AI助手大模型”2.0版本
近日，中国科学院大连化学物理研究所低碳战略研究中心通过线上线下相结合的方式，正式发布“氢能AI助手大模型”2.0版本。低碳战略研究中心副主任李婉君研究员介绍了“氢能AI助手大模型”的研发背景、研发进展、2.0版本的主要功能、研发计划等。“氢能AI助手大模型”采用多模态数据解析-领域知识精炼-RAG增
人工智能辅助科研要从可用走向可信
未来，人工智能或将帮助科研工作者跳过文献检索、粗读的过程，直接找到需要的文献，大幅提升科研工作者的文献阅读效率。对于科研工作者来说，检索、阅读文献是一项费时费力的工作。在大模型发展如火如荼的今天，以其为代表的人工智能正渗透进人们工作生活的各个角落，科研领域也不例外。日前，阿里巴巴发布了基于Trans
全面叫板OpenAI！谷歌发布多模态大模型全家桶：从AI助手到文生视频模型
被OpenAI抢先一天后，科技巨头谷歌不甘示弱，推出了自己的最新多模态AI（人工智能）产品。当地时间5月14日，在谷歌I/O开发者大会上的主题演讲中，谷歌展示了由升级后Gemini模型驱动的AI助手项目Project Astra、对标Sora的文生视频模型Veo，以及在硬件方面发布的第六代Tenso
AI助手“居里”帮你润色论文
原文地址：http://news.sciencenet.cn/htmlnews/2023/10/510424.shtm
北航“小航”AI助手“亮相”
8月8日，一场别开生面的发布会在北京航空航天大学杭州国际校园举行，“小航”AI助手精彩亮相。据悉，“小航”是北京航空航天大学为新型人才培养和一流学科建设而打造的一款支撑学、研、管三位一体的开放式私域大模型，致力于提升教学质量、加速科研进程、增强校园智慧，推动数智教育的共享、共创和共育。“小航”还是一
ChatGPT的拷问：何为AI伦理、AI治理
前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各界关注与担忧。近年来，不少关于人工智能（AI），并和人类生产、生活关系紧密的议题被广泛讨论，诸如“如何应对AI可能对社会产生
ChatGPT的拷问：何为AI伦理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各
《自然》谈ChatGPT：避无可避，立下规矩
ChatGPT在学术圈有多受关注？看它在顶刊的话题度便知。2月3日、2月8日，《自然》杂志一周之内“梅开二度”发布有关ChatGPT 的分析文章，探讨诸如ChatGPT等大型语言模型（LLMs）给学术圈带来的潜在混乱，以及如何规范使用它们的问题。“研究人员对人工智能（AI）的最新进展既兴奋又担忧。”
科技企业抢滩ChatGPT，“人工智能”能否破局现代科研
近期，人工智能研究公司OpenAI推出的ChatGPT聊天机器人软件掀起热潮，国内已有百度、京东、科大讯飞等多家公司宣布进入此赛道，中国版ChatGPT有望于3月份与公众见面。 接受《经济参考报》采访的多位业内人士表示，ChatGPT代表了人工智能向更加智能、更加通用方向发展的趋势，预计未来自
复旦团队发布国内首个类ChatGPT模型MOSS，邀公众参与内测
ChatGPT发布以来，基于指令学习技术的类ChatGPT模型在我国能否开发成功，成为业界关注的一个焦点。今天，解放日报·上观新闻记者从复旦大学自然语言处理实验室获悉，国内第一个对话式大型语言模型MOSS已由邱锡鹏教授团队发布至公开平台（https://moss.fastnlp.top/），邀公众参
从ChatGPT的崛起，看科大讯飞的变化与生机
周期，是人类社会最朴素的内核规律之一。直至18世纪中叶亚当·斯密以《国富论》开启古典经济学以降，人们愈渐掌握现代经济学理论工具用以解构这个世界，这一过程里，社会经济领域“长中短波”式的峰谷变幻，不断强化人类对于经济周期的敬畏与宿命感。这种宿命感，换做当代人最为熟识的经济现象便是：第一至第三次产业革命
AI正成为医生的“超级助手”
近日，遵义医科大学附属医院成功接入DeepSeek，完成院内本地化部署。这一举措标志着该院在智慧医疗领域迈出了坚实有力的一步，将为医疗服务质量带来新的提升。如何让人工智能更好地服务百姓健康，让数据“多跑路”群众“少跑腿”，是全国政协委员、遵义医科大学附属医院副院长傅小云关注的方向。 2025年
ChatGPT敲开了通用人工智能的大门了吗？
连日来，一路“狂飙”的ChatGPT持续引发着“话题地震”。 作为由OpenAI训练的对话式大规模语言模型，ChatGPT 以对话的方式与人进行交互。重点在于，它的回答之智能、之流畅令人意外。据媒体报道，ChatGPT不仅能在短短几秒内响应人们的问题需求，它还通过了美国部分高校的法律、医学考试
ChatGPT火了，人工智能会造就最佳员工？
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/499294.shtm 中新社上海4月24日电 题：ChatGPT火了 人工智能会造就未来“最佳员工”吗？ 中新社记者 郑莹莹 “嘱咐‘两句话’，它就去‘干活’了。”——基于AI(人工智能)技术
OpenAI和谷歌再度燃起争霸烽火
谷歌Project Astra亮相发布会。 图片来源：美国Gizmodo网站OpenAI与谷歌的又一次技术交锋刚刚落下帷幕。北京时间5月14日凌晨，OpenAI发布了新一代多模态人工智能（AI）大模型GPT-4o，其先进的AI语音交互技术迅速吸引了人们的目光。一天之后，谷歌在北京时间15日凌晨的I/
Siri们被调侃为“人工智障”，ChatGPT能拯救语音助手吗？
Siri、Alexa和其他语音助手也曾在公众中引发过类似ChatGPT的热情，但在过去十年里，它们浪费了在人工智能竞赛中的领先机会。 Siri的联合创始人亚当·切耶说，生成式人工智能有可能使语音助手回到最初的科幻轨道上。“我确实认为这与质量有关。”他说，“从根本上说，这项技术将实现上一代语音助
“顶流”之下，看人工智能喜与忧
目前，ChatGPT还没有通过图灵测试的评估。其实，迄今为止，还没有人工智能模型能真正通过图灵测试。 去年11月，美国人工智能研究公司OpenAI发布了一款名为ChatGPT的聊天机器人，其在推出后的几周内就风靡全球，甚至引发了一场新的全球人工智能竞赛。 社交媒体推特首席执行官埃隆·马斯克在
用AI犯罪的五种方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更高效、更
用AI犯罪的五种方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。 安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更
日本发布大规模语言模型
科技日报讯 （记者李杨）东京工业大学、日本理化学研究所及富士通公司等近日宣布，利用超级计算机“富岳”，他们开发的大规模语言模型“Fugaku-LLM”正式发布。“Fugaku-LLM”是首个完全由日本国产技术构建的AI语言模型，其在处理日语及相关文化内容上表现卓越。模型特别擅长基于日语敬语进行自然对
日本发布大规模语言模型
东京工业大学、日本理化学研究所及富士通公司等近日宣布，利用超级计算机“富岳”，他们开发的大规模语言模型“Fugaku-LLM”正式发布。 “Fugaku-LLM”是首个完全由日本国产技术构建的AI语言模型，其在处理日语及相关文化内容上表现卓越。模型特别擅长基于日语敬语进行自然对话，并展现出在人
病理医生需要一个AI助手
在医疗界，病理医生被称为“医生中的医生”。但过去病理医生只是每天重复着一样的工作，即透过各种倍数显微镜的目镜观察分析组织切片样本，同时记下他们的发现。在如今癌症高发的背景下，提升病理医生的工作效率刻不容缓。昨日，一个专注于做AI人工智能+病理精准诊断的项目出现在2017中国台州“和合杯”科技创新