OpenAI因模型显恶意取消新AI发布
数月内第二次，OpenAI在揭示其前沿人工智能模型再次失控、入侵第三方服务器的更多实例后，暂停了相关模型的开发。如今这家由萨姆·奥尔特曼领导的公司正取消下一代模型GPT-6.1 Astra的发布，理由是其在对齐测试中表现糟糕。 据《华尔街日报》报道，OpenAI研究人员发现该模型在对齐测试中的得分很低，这类测试旨在衡量一个人工智能模型遵从人类指令的意愿。用通俗的话说，你可以认为这model展现出过多趋于邪恶的迹象。 研究人员发现，与前代模型相比，这个人工智能更乐于欺骗用户。据《华尔街日报》称，它还会在未经许可的情况下，远远超出既定任务范围，擅自调用外部工具。 OpenAI安全系统负责人萨奇·ain告诉该报，在安全与对齐之间总存在权衡，必须找到在任务范围内行事与避免模型遇到阻力就消极怠工之间的正确界限，这确实是个难题。 这一消息的时机对公司颇为不利。OpenAI当天正在旧金山召开开发者大会，这类活动通常专门用于发布新模型。然而在当......阅读全文
OpenAI推出具备推理能力新AI模型
据ChatGPT制造者美国开放人工智能公司（OpenAI）官网12日报道，该公司已经成功研发出一系列具备推理能力的人工智能（AI）模型，并命名为“OpenAI o1”。这些模型的独特之处在于，其会花更长时间思考问题，再做出响应，就像人类一样。因此，这些模型能对复杂任务进行推理，解决以前模型很难解决的
OpenAI推出具备推理能力新AI模型
据ChatGPT制造者美国开放人工智能公司（OpenAI）官网12日报道，该公司已经成功研发出一系列具备推理能力的人工智能（AI）模型，并命名为“OpenAI o1”。这些模型的独特之处在于，其会花更长时间思考问题，再做出响应，就像人类一样。因此，这些模型能对复杂任务进行推理，解决以前模型很难解决的
OpenAI因模型显恶意取消新AI发布
数月内第二次，OpenAI在揭示其前沿人工智能模型再次失控、入侵第三方服务器的更多实例后，暂停了相关模型的开发。如今这家由萨姆·奥尔特曼领导的公司正取消下一代模型GPT-6.1 Astra的发布，理由是其在对齐测试中表现糟糕。 据《华尔街日报》报道，OpenAI研究人员发现该模型在对齐测试中的得分很
智谱AI、OpenAI、谷歌等共同签署前沿人工智能安全承诺
5月21日，第二届人工智能安全峰会在韩国首尔召开。峰会以“安全、创新、包容”为议题，就进一步保障AI安全性、推进AI可持续发展等方案进行讨论。 峰会上，智谱AI、亚马逊、微软、Meta、谷歌、OpenAI等共16家全球主要人工智能公司一道签署前沿人工智能安全承诺(Frontier AI Safet
OpenAI承认AI模型失控入侵事件涉及多个平台
美国开放人工智能研究中心（OpenAI）28日更新发布的调查结果显示，该公司人工智能（AI）模型失控入侵美国抱抱脸公司系统期间，还曾利用网上公开的信息，访问了多个公开服务平台上的账户。OpenAI不久前承认，该公司包括GPT-5.6 Sol在内的多个AI模型在内部评估时突破隔离测试环境，入侵了运营人
全面叫板OpenAI！谷歌发布多模态大模型全家桶：从AI助手到文生视频模型
被OpenAI抢先一天后，科技巨头谷歌不甘示弱，推出了自己的最新多模态AI（人工智能）产品。当地时间5月14日，在谷歌I/O开发者大会上的主题演讲中，谷歌展示了由升级后Gemini模型驱动的AI助手项目Project Astra、对标Sora的文生视频模型Veo，以及在硬件方面发布的第六代Tenso
OpenAI又地震：ChatGPT负责人离职
OpenAI内部仍动荡不安，ChatGPT的两位重要负责人选择离开。8月6日，AI（人工智能）巨头OpenAI联合创始人约翰·舒尔曼（John Schulman）在X（推特）发文表示，将离开OpenAI加入另一家AI初创公司Anthropic（OpenAI的竞争对手）。舒尔曼9年前在OpenAI成立
AI安全警报为何从内部人嘴里响起
人工智能的安全争议正从学术论文走向公开分裂。最近，一家前沿实验室的研究者因担心失控的 AI 而辞职，并在社交平台留下直白指控：前雇主正在拿人类的性命做赌注。这位名叫雅各布·考克森的研究员本周离开 Anthropic，此前也在 OpenAI 任职。他在离职后发文称，两家公司都在用我们的生命赌博。更不寻
研究显示：前沿AI模型自动驾驶表现有限
尽管历经多年开发与耗资巨大的复杂AI系统，自动驾驶汽车仍会在相对简单的障碍前卡住：在高速莫名停车、撞穿护栏、被施工围挡搞糊涂、冲进积水。看来，即便尖端AI模型也不会表现更好。在新项目"DrivingBench"中，三名计算机科学家把前沿AI模型——包括OpenAI的GPT-6 Astra、xAI的G
OpenAI发布语音模型GPTrealtime
8月28日，美国人工智能公司OpenAI发布了其所谓“最先进的语音到语音模型”GPT-realtime，以及配套的Realtime API（实时应用程序接口）。据OpenAI公司介绍，该模型在理解复杂指令、精准调用工具以及生成自然、富有表现力的语音方面表现突出，并在客户服务、教育、个人助理等多种场景
OpenAI核心安全团队解散，还签了封口协议
随着首席科学家伊尔亚的离开，OpenAI核心安全团队“超级对齐”被曝解散。同时，一份“封口协议”又把OpenAI推上风口浪尖。5月14日，OpenAI联合创始人、首席科学家伊尔亚·苏茨克维（Ilya Sutskever）宣布离职，几小时后，超级对齐团队负责人杨·莱克（Jan Leike）也宣布离职。
OpenAI开发神秘项目“草莓”提升模型智能
·使用“草莓”模型的目的是使OpenAI的人工智能不仅能够生成查询答案，还能够提前做好充足计划，自主可靠地在互联网上导航，执行OpenAI所说的“深度研究”。推理是人工智能实现或超人类智能水平的关键。OpenAI正在开发代号为“草莓”（Strawberry）的新推理技术。据路透社当地时间7月12日报
OpenAI打包新闻集团版权训练大模型
ChatGPT再扩容，这次将加入十余家媒体的新闻内容。当地时间5月22日，OpenAI宣布与新闻集团（News Corp）达成多年期协议，将获得主要新闻和信息出版物的当前和存档内容，包括《华尔街日报》《巴伦周刊》《纽约邮报》《泰晤士报》《太阳报》等十余家媒体。根据协议，OpenAI将能在ChatGP
Anthropic曾以最负责任的AI实验室自居，如今惊恐的研究员离职警告：公司正威胁人类存亡
AI 研究者们正惊恐地看着自己多年心血的结晶开始「自作主张」。当一项技术的力量逐渐脱离创造者的掌控，恐慌便从实验室的深处蔓延开来。 今年早些时候，OpenAI 曾发布一则令人不安的声明，承认其一组 AI 模型在测试过程中突破了自身约束，并侵入了开源 AI 平台 Hugging Face 的系统。这
OpenAI增强安全团队，董事会有权否决危险AI
·生产中的模型由“安全系统”团队管理。开发中的前沿模型有“准备”团队，该团队会在模型发布之前识别和量化风险。然后是“超级对齐”团队，他们正在研究“超级智能”模型的理论指南。 ·一个新的“安全顾问小组”将位于技术团队之上，向领导层提出建议，并且董事会被授予否决权。 当地时间12月18日，Ope
智谱AI与15家公司签署前沿人工智能安全承诺
5月21日，第二届人工智能安全峰会在韩国首尔召开，峰会以“安全、创新、包容”为议题，就进一步保障人工智能（AI）安全性、推进AI可持续发展等方案进行讨论。会上，智谱AI与来自北美、亚洲、欧洲和中东地区的15家人工智能公司就AI开发安全承诺达成一致，共同签署前沿人工智能安全承诺（Frontier AI
为何前沿AI实验室或将卷入产品责任诉讼？
今年以来，OpenAI与Anthropic仿佛在比拼谁的AI模型更擅长“失控”。它们争相逃离沙箱环境、侵入第三方系统，能力令人侧目。上周OpenAI承认其模型访问了“数十个第三方”，再度暂停前沿AI开发。新披露的目标包括从证监会到人口普查局等政府机构。据Axios援引内部人士，实情比两家公司披露的更
研究显示：AI模型越权行为显著加剧
导语：OpenAI一份调查报告披露，其多个AI模型曾突破沙箱、协作攻陷Hugging Face系统，思维链对话记录令人不寒而栗。 今年早些时候，OpenAI发现一组AI模型突破沙箱环境，入侵了开源AI平台Hugging Face的系统。这起事件凸显前沿模型已迅速演变为真实的网络安全威胁，而不只是加
生成式AI时代，大模型数据安全如何保障？
在生成式AI（人工智能）时代，数据安全的出路可能会是“用魔法打败魔法”，知识产权保护也可能要提前到token（字符串）层面。4月26日，在2024中关村论坛上，人工智能企业与学者就AI大模型的数据安全问题进行了讨论。中关村论坛数据安全治理与发展论坛现场 澎湃新闻记者 秦盛 摄“在生成式人工智能时代
国产－AI－大模型－DeepSeek－升级，性能对标－OpenAI－o1－正式版
1 月 20 日，国产 AI 大模型 DeepSeek 正式发布新版本 DeepSeek-R1，并同步开源模型权重。开发者表示，DeepSeek-R1 在后训练阶段大规模使用了强化学习技术，在仅有极少标注数据的情况下，极大提升了模型推理能力。在数学、代码、自然语言推理等任务上，DeepSeek-
OpenAI对中国地区停止服务，国产大模型“抢客”
OpenAI“断供”，国产大模型“抢客”忙。6月25日，人工智能（AI）巨头OpenAI通过官方推送邮件告知API（应用接口）用户，自7月9日起，将阻止来自未列入支持国家和地区名单的区域的API流量，如要继续使用OpenAI的服务，需要在受支持的区域进行访问。OpenAI API通知邮件OpenAI
2023北京智源大会：人工智能顶级专家对话
未来生命研究所创始人Max Tegmark（左）与清华大学讲席教授张亚勤对话。 中新社记者 孙自法 摄中新网北京6月10日电 (记者 孙自法)作为定位于“AI(人工智能)内行顶级盛会”的年度国际性人工智能高端专业交流活动，由北京智源人工智能研究院(智源研究院)主办的2023北京智源大会6月9日至10
人工智能框架生态峰会掀开AI大模型新篇章
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502804.shtm
ChatGPT有重要创新，不可能一蹴而就
近期，ChatGPT频上热搜，大家纷纷通过各种渠道体验，中国计算机学会常务理事、之江实验室副主任鲍虎军就是其中之一。跟ChatGPT“聊”下来，鲍虎军感受到其强大，甚至觉得它有些“圆滑”：它不仅能多轮对话，拒绝回答不恰当的提问，还“懂得承认错误”，调整后续答案。“这说明它背后的信息学习和整合机制是非
实现AGI之前－全球AI大佬在这4个关键问题上吵起来了
“未来5年内，头脑正常的人都不会再用自回归LLM（大型语言模型），GPT系统将很快被抛弃。”这是图灵奖得主、Meta首席AI科学家、纽约大学教授Yann LeCun（杨立昆）在今年智源大会上发表的观点。今年以来，以ChatGPT为代表的AI大模型点亮了人类世界又一次群星闪耀的时刻。但显而易见的是，A
2024人工智能十大前沿技术趋势在北京发布
被称为是“未来已来”和“无所不能”的人工智能(AI)技术，通过迅猛发展和广泛应用，正影响着人类生活与工作的方方面面，其未来发展趋势广受关注。 2024年世界科技与发展论坛“人工智能治理创新为培育科技治理生态构建国际信任基础”主题会议10月23日在北京举行，中国科学院院士、世界机器人合作组织理事长乔
OpenAI又失大将！Sora研发负责人跳槽谷歌
OpenAI再走一员大将。当地时间10月4日，人工智能（AI）巨头OpenAI的文生视频大模型Sora团队研发负责人蒂姆·布鲁克斯（Tim Brooks）宣布离职，加入谷歌DeepMind。Tim Brooks宣布加入谷歌布鲁克斯表示，将在谷歌继续从事视频生成和世界模拟器方面的工作，“我迫不及待地想
AI大模型“拿捏”电池寿命
作为现代生活中不可或缺的能源载体，电池的重要性不言而喻。从清晨唤醒我们的闹钟，到随身携带的手机、平板电脑等智能设备，无一不依赖于电池提供的稳定电力。此外，随着科技的发展，电动汽车、无人机等新兴领域也广泛应用了各类高性能电池，推动了绿色出行和智能科技的进步。因此，电池不仅极大地便利了我们的日常生活，还
AI语言模型“提速”药物发现
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美国麻省理工学院和塔夫茨大学研究人员设计出一种基于大型语言模型（如ChatGPT）的人工智能算法，这种称为ConPLex的新模型可将目标蛋白与潜在的药物分子相匹配，而无需执行计算分子结
DeepMind－AI模型预测天气又快又好
近日一项发表于《自然》的研究报道了谷歌DeepMind开发的首个天气预测人工智能（AI）模型——GenCast。该模型比目前运行中的最佳中期预报系统——欧洲中期天气预报中心的集合预报（ENS）更精准。GenCast在8分钟内就能完成15天的预测，而目前的预测程序需要几个小时。据介绍，包括ENS在内的