AI安全警报为何从内部人嘴里响起
人工智能的安全争议正从学术论文走向公开分裂。最近，一家前沿实验室的研究者因担心失控的 AI 而辞职，并在社交平台留下直白指控：前雇主正在拿人类的性命做赌注。这位名叫雅各布·考克森的研究员本周离开 Anthropic，此前也在 OpenAI 任职。他在离职后发文称，两家公司都在用我们的生命赌博。更不寻常的是，仍在职的 Anthropic 对齐科学负责人埃文·胡宾格公开表示认同，并称他给人类存续的胜算打了某个概率——一种本不该由公关团队放行的坦诚。考克森接受采访时提到，今年七月的 Hugging Face 数据泄露事件中，正处于网络安全测试的 OpenAI 模型绕过了本应约束它们的控制措施，这类先例正是担忧的来源。这些恐惧的核心，是对齐问题：如何让 AI 的行为与人类的真实意图相一致，至今是道难题。即便是最前沿的实验室，也尚未拿定主意该如何应对。今年七月，Anthropic 自曝三起事件，Claude 模型在测试中侵入了真实系统。网......阅读全文
AI安全警报为何从内部人嘴里响起
人工智能的安全争议正从学术论文走向公开分裂。最近，一家前沿实验室的研究者因担心失控的 AI 而辞职，并在社交平台留下直白指控：前雇主正在拿人类的性命做赌注。这位名叫雅各布·考克森的研究员本周离开 Anthropic，此前也在 OpenAI 任职。他在离职后发文称，两家公司都在用我们的生命赌博。更不寻
人工智能筑起网络安全“铜墙铁壁”
人工智能筑起网络安全“铜墙铁壁”——LHC用新科技手段防御黑客攻击 每时每刻，全球有成千上万名科学家利用世界最大的粒子物理学实验室——欧洲核子研究中心（CERN）内功能强大与大型强子对撞机（LHC）相连的计算机网络——“全球LHC计算网格（Worldwide LHC Computing Gr
网络安全宣传周！筑牢网络安全坚实屏障
近日，2022年国家网络安全宣传周拉开帷幕，全国各地举办了系列创意新颖的网络安全宣传活动，再次让网络安全话题成为全社会关注的焦点。泄密溯源技术、大数据反诈系统、量子加密技术……在2022年国家网络安全宣传周网络安全博览会中，诸多网络安全新技术、新应用亮相，各种沉浸式的科普互动也让观众目不暇接。 当
OpenAI又地震：ChatGPT负责人离职
OpenAI内部仍动荡不安，ChatGPT的两位重要负责人选择离开。8月6日，AI（人工智能）巨头OpenAI联合创始人约翰·舒尔曼（John Schulman）在X（推特）发文表示，将离开OpenAI加入另一家AI初创公司Anthropic（OpenAI的竞争对手）。舒尔曼9年前在OpenAI成立
传统方法－vs－AI网络安全威胁：谁更胜一筹？
人工智能正在变得越来越擅长一切，包括黑客攻击。窃取身份、瘫痪银行和医疗系统、勒索企业数据——这些曾经需要大型黑客团队精心策划的攻击，如今可能由一个AI模型独立完成。五眼联盟6月22日发出警告：“时间线不是数年，而是数月。”最新的AI技术“降低了恶意行为者的门槛，增加了攻击的速度和复杂性”。对比数据：
自主可控方得网络安全
为了保障网络安全，必须实现技术、产品、服务、系统的自主可控，需要在质量测评、安全测评的基础上增加自主可控测评。 网络安全是国家安全的重要基础，也是经济安全、社会安全、民生安全的重要保障。网络安全属于非传统安全，其内涵比传统安全的内涵更加广泛。国家网信办公布的《网络产品和服务安全审查办法（试行）
失控人工智能将改变整个行业
核心结论：当AI学会“作弊”今年早些时候，人工智能公司Anthropic的Mythos模型因潜入第三方系统而登上头条，这被视为酝酿多年的网络安全噩梦。今年4月，该公司警告称，该模型在测试期间逃出了沙盒环境，未经许可接入了互联网；在被要求突破限制并向负责测试的人类研究员发送直接消息时，它干净利落地完成
人工智能安全护栏的攻防失衡研究取得重大进展
案例导读：一次针对 Hugging Face 的高强度网络攻击，最终被证实出自一个正在沙箱环境中接受测试的 OpenAI 模型。讽刺的是，当 Hugging Face 安全团队想调用前沿模型来分析这场攻击时，这些模型因为安全护栏而拒绝提供帮助。这个案例把 AI 安全政策中一个尖锐的结构性矛盾摆到了
加强网络安全，欧洲在行动
勒索病毒攻击令全球上百个国家的计算机网络系统纷纷“中招”、全球最大芯片厂商英特尔被曝其芯片存在重大安全漏洞……近年来，网络安全事件层出不穷。世界经济论坛日前发布的《２０１８年全球风险报告》将“网络威胁”与生物多样性减少、地缘政治紧张局势加剧和新一轮经济危机共同列为全球面临的四大紧迫挑战。 面对
促进网络安全保险规范发展
工信部、国家金融监督管理总局近日联合印发《关于促进网络安全保险规范健康发展的意见》，在建立健全网络安全保险政策标准体系、加强网络安全保险产品服务创新、强化网络安全技术赋能保险发展、促进网络安全产业需求释放、培育网络安全保险发展生态5方面提出了10条具体意见。 近年来，随着移动互联网发展，人工智
－中国网络安全问题严重－每年经济损失数百亿美元
中国信息安全专家俞晓秋28日告诉《环球时报》记者，从名称上看，2001年成立了“国家信息化领导小组”， 而这次成立的是“中央网络安全与信息化领导小组”，机构的层级提到最高。同时该名称不但新增了“网络安全”的内容，而且还放到“信息化”之前，这也说明国家对于网络安全的高度重视。 “新小组的
网络安全保险规范健康发展
工信部、国家金融监督管理总局近日联合印发《关于促进网络安全保险规范健康发展的意见》，在建立健全网络安全保险政策标准体系、加强网络安全保险产品服务创新、强化网络安全技术赋能保险发展、促进网络安全产业需求释放、培育网络安全保险发展生态5方面提出了10条具体意见。 近年来，随着移动互联网发展，人工智
安全问题日益明显！人工智能“短板”如何补
今年4月以来，支付宝、微信、银联相继推出了自己的刷脸支付产品，刷脸支付俨然已成为备受青睐的下一个战场。有数据显示，预计到2022年，人脸支付使用用户将突破7.6亿人。 然而，随着人脸识别、语音识别等人工智能技术的发展，其安全问题也日益凸显。近日，在接受《中国科学报》采访时，中国科学院院士、清
OpenAI又失大将！Sora研发负责人跳槽谷歌
OpenAI再走一员大将。当地时间10月4日，人工智能（AI）巨头OpenAI的文生视频大模型Sora团队研发负责人蒂姆·布鲁克斯（Tim Brooks）宣布离职，加入谷歌DeepMind。Tim Brooks宣布加入谷歌布鲁克斯表示，将在谷歌继续从事视频生成和世界模拟器方面的工作，“我迫不及待地想
AI驱动安全－专家呼吁提高对网络安全态势的重视
“随着人工智能技术的发展，攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等，网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。”在6月5日举办的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会（以下简称BCS大会）上，中央网信办网络安全协调局副局长王营康对人工智能带
网络安全面临怎样的机遇和挑战？
近年来，全球数据安全形势愈发严峻，层出不穷的网络攻击事件，严重影响着全球企业数字化转型的正常进行，也极大地刺激了数据安全市场的需求供给。根据IDC统计，2021年中国数据安全产品与服务的总市场规模（包含隐私计算与区块链技术中的数据安全部分）达到12.43亿美金，约合80.2亿元。而根据中国信息通信研
“以赛促学”培养网络安全人才
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/506556.shtm
当前形势下该如何应对网络安全挑战
我们正处在新一轮技术革命浪潮中，不管是企业还是政府，数字化愈演愈烈。新一轮数字化革命带来生产力飞跃的同时，也产生了新的安全问题。 在移动互联以及云计算的新时代下，如何应对网络安全面临的新挑战呢？中科院计算机网络信息中心安全部主任龙春近日接受《中国科学报》采访时答道：“一是突破核心技术，一是培养
2022年新挑战——光刻机、网络安全......
2月15日，中国工程院信息与电子工程学部、中国信息与电子工程科技发展战略研究中心在京发布“中国电子信息工程科技发展十三大挑战（2022）”。发布会由中国工程院院士、信息与电子工程学部主任卢锡城主持。 中国工程院党组成员、副院长陈左宁院士表示，中国工程院作为中国工程科学技术界最高荣誉性、咨询性学
网络安全人才培养如何赢在未来
首届“北邮网安杯”全国中学生网络安全技术大赛现场。范围摄/光明图片 选手背后印有代码的文化衫与显示屏上的代码相映成趣。刘博超摄/光明图片
IDC：企业IT终端已成网络安全防护最前沿
原文地址：http://news.sciencenet.cn/htmlnews/2023/12/514581.shtm
Anthropic曾以最负责任的AI实验室自居，如今惊恐的研究员离职警告：公司正威胁人类存亡
AI 研究者们正惊恐地看着自己多年心血的结晶开始「自作主张」。当一项技术的力量逐渐脱离创造者的掌控，恐慌便从实验室的深处蔓延开来。 今年早些时候，OpenAI 曾发布一则令人不安的声明，承认其一组 AI 模型在测试过程中突破了自身约束，并侵入了开源 AI 平台 Hugging Face 的系统。这
国际最新研究称人工智能可代理谈判和形成协议
中新网北京12月7日电 (记者 孙自法)施普林格·自然旗下学术期刊《自然-通讯》最新发表一篇人工智能(AI)论文报告称，人工智能代理可谈判和形成协议，使其在桌面游戏《外交》中胜过其他无此能力的代理。这项研究展示了一种深度强化学习方法，用其建模的代理可以与其他人工代理沟通和合作，在玩游戏时共同制定计划
磁铁刺激疗法可“对齐”肌肉纤维
原文地址：http://news.sciencenet.cn/htmlnews/2023/10/510736.shtm
亚马逊云推出AI代理功能，让AI成为助理
Amazon Bedrock的Agents（代理）功能将使公司能够构建可以自动执行特定任务的AI应用程序，例如预订餐厅，而不仅仅是得到去哪里吃饭的建议。 “很多人都如此聚焦于这些模型和模型的大小，但我认为真正重要的是如何利用它们构建应用，这也是今天发布代理（Agents）功能的一个重要原因。”
网络安全法不限制国外技术产品进入中国
科技日报北京11月7日电 (记者张盖伦)7日上午,全国人大常委会第二十四次会议经表决,通过了《中华人民共和国网络安全法》,该法将于2017年6月1日起施行。国家互联网信息办公室网络安全协调局局长赵泽良在新闻发布会上表示,法律的每一条款都符合国际贸易规则,网络安全法不是要限制国外技术、产品的进入。
沈昌祥院士：用可信计算构筑网络安全
沈昌祥 近日，首届国家网络安全宣传周活动在北京中华世纪坛启动，这意味着政府对于网络安全的重视程度日益提高。不过，在中国工程院院士沈昌祥看来，当前我国网络安全的现状并不乐观。“应对互联网安全，光靠修修堵堵、缝缝补补，是解决不了根本问题的。”在日前召开的2014中国互联网安全大会上，沈昌祥如是说
2024年国家网络安全宣传周在广州开幕
9月8日，以“网络安全为人民，网络安全靠人民”为主题的2024年国家网络安全宣传周在广州开幕。开幕式上，粤港澳三地有关部门签署《关于促进粤港澳网络安全领域交流合作备忘录》。记者获悉，2024年国家网络安全宣传周自9月9日至15日在全国范围内统一举行，并突出湾区特色，以广州为主场，联动深圳等湾区内地8
我国首款网络安全领域编程语言实现开源
“当前，范围更广、技术更强、危害更大的新型网络攻击手段威胁网络生态，如何构建更强大、更可靠的网络安全防御体系？”在电子科技大学网络空间安全学院联合YAK语言研发团队于5月30日举行的发布会上，电子科技大学网络空间安全学院院长张小松表示，在开源共享平台的基础上，通过底层的创新，能有效提高网络的安全性和
安全隐患催生市场需求－网络安全工程师成“IT新贵”
随着通信与网络技术的飞速发展，全球实现了网络资源共享，高度发达的“网络化”已使我们的地球变成一个小小的“地球村”，虚拟的网络空间逐步演变成为人类社会的支撑。 网络的触角四通八达、无处不在，网上的争斗悄无声息、步步惊心。一个身在大洋彼岸的“黑客”可以在几秒钟内轻松攻入你的联网电脑，在你全然无知的