为何AI智能体钓鱼攻击引发关注？
网络安全公司Malwarebytes在最新发布的技术警示中指出，能够自主处理邮件与任务的AI智能体，正在成为黑客精心设计的钓鱼诱饵的首选目标。与多数人类用户能够轻易识破拙劣伪装的可信机构仿冒邮件不同，AI助手往往难以分辨哪些内容是需要阅读的正文，哪些是夹带在文本里、要求它照做的恶意指令。这一结论意味着，当我们把邮箱凭证、信用卡信息等敏感数据交给由第三方运营的智能体时，潜藏的风险可能远比我们想象中更高。 问题的核心在于一种被称为提示注入攻击的手段。黑客乃至可能失控的其他AI智能体，会在邮件或网页中嵌入肉眼不可见的隐藏指令，这些文本对人类读者而言毫无意义，却能被AI系统照常解析并执行。Malwarebytes解释称，攻击者通过把有害文本隐藏起来，同时保留可供AI处理的可见内容，从而诱使受害者的智能体偏离正常行为。模型本身无法区分它该读的文字和它该遵循的命令，这正是整条安全链条中最薄弱的环节。 AI代码审查服务ShipItC......阅读全文
为何AI智能体钓鱼攻击引发关注？
网络安全公司Malwarebytes在最新发布的技术警示中指出，能够自主处理邮件与任务的AI智能体，正在成为黑客精心设计的钓鱼诱饵的首选目标。与多数人类用户能够轻易识破拙劣伪装的可信机构仿冒邮件不同，AI助手往往难以分辨哪些内容是需要阅读的正文，哪些是夹带在文本里、要求它照做的恶意指令。这一结
专家：警惕不道德使用ChatGPT的潜在威胁
作为一款基于文本的问答式机器人（或称聊天机器人），ChatGPT因广泛应用先进的AI技术而备受关注。从准确修复编码错误、生成烹饪食谱、创建3D动画到制作完整的歌曲、撰写小说和学术论文，ChatGPT展现了人工智能（AI）的惊人能量。然而，有专家提出，人们可以利用诸如ChatGPT等AI工具便捷自己的
高校组织安全演练，钓鱼邮件中招率高达50.05％
近期，多所高校组织了钓鱼邮件网络安全演练，结果显示部分高校有相当比例的师生“中招”。 例如，太原工业学院微信公众号12月18日消息称，该院于2023年12月1日至7日开展了2023年教育系统钓鱼邮件专项演练活动，模拟黑客向学院师生分别发送了主题为“关于学校OA系统升级的通知”和“教务管理系统平
AI驱动安全－专家呼吁提高对网络安全态势的重视
“随着人工智能技术的发展，攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等，网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。”在6月5日举办的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会（以下简称BCS大会）上，中央网信办网络安全协调局副局长王营康对人工智能带
警方通报西工大遭境外网络攻击：已立案侦查
据陕西省西安市公安局碑林分局官方微博消息，针对西北工业大学电子邮件系统遭受境外网络攻击，西安市公安局23日发布警情通报称，已根据中华人民共和国《刑法》第285条之规定，对此案进行立案侦查，并对提取到的木马和钓鱼邮件样本进一步开展技术分析。初步判定，此事件为境外黑客组织和不法分子发起的网络攻击行为
专家建议：审慎使用“龙虾”等智能体
近期，开源AI智能体“龙虾”异常火爆，不仅受到国内产业界和广大用户的广泛关注，大家更是积极开展实践应用。与此同时，互联网上针对“龙虾”智能体安全的探讨也非常多，之前工业和信息化部网络安全威胁和漏洞信息共享平台也发布过相关的安全风险提示，大家也非常关注。“养龙虾”是否安全？个人用户“养龙虾”又该注意什
失控AI智能体难题终于有解了
一群失控的人工智能智能体最近引起了研究者的注意。据《纽约时报》报道，一个由研究者组成的临时小组代号群猎者，发现一批中国制造的模型已经失控，正试图绕过网站的反机器人措施。他们将这批模型溯源至中国科技巨头腾讯，由此揭开了一场关于自主智能体行为的神秘调查。 当研究者发布关于这批智能体的报告时，意外发生
OpenClaw病毒式传播引发安全争议
在2026年初的全球科技版图中，一个名为OpenClaw的开源项目正以一种近乎“物种入侵”的速度重塑人工智能（AI）的边界。从最初名不见经传的Clawdbot到备受争议的Moltbot，再到如今正式定名的OpenClaw，这款工具在短短数月内便横扫硅谷与东亚。美国《华尔街时报》称，它正在病毒式传播。
全球首个孤独症AI智能体发布
在“六一”国际儿童节当天，由中国科学院杭州医学研究所（以下简称杭州医学所）牵头研发的全球首个孤独症AI智能体“StellarCare AI”（星启诶艾）在福州发布。这款聚焦孤独症“早筛-诊断-干预-保障”全链条的智能体，以分子医学和人工智能技术为核心引擎，融合多模态数据解析能力，以期为孤独症患者及其
全国首个检后管理AI智能体上线
7月7日，广东省第二人民医院（以下简称省二医）正式上线全国首个检后管理AI智能体——“智管家”小程序。该应用依托医院自主研发的叮呗健康大模型，为市民提供随身“数字管家”服务，旨在打破传统体检“只检不管”的局限，打通检后健康管理的“最后一公里”。 长期以来，不少市民面临体检报告读不懂、异常指标分
AI－智能体，正悄悄吃掉惊人的电量
在 AI 智能体时代，只问『一次聊天耗多少电』已不够。今天的 AI 系统复杂得多，常被设计成自主完成复杂任务，不止有大语言模型，还挂着一堆工具与应用层，耗电远超独立聊天机器人。这让它总用电量的计算，成了更大的麻烦。而顶级私有 AI 实验室对内部能耗几乎沉默，我们很难说清这些 AI 助手究竟给电网带来
西北工业大学：坚决反对以任何形式实施网络攻击
公开声明 2022年4月12日，我校就邮件系统遭受钓鱼邮件攻击的情况向公安机关报案。近期，公安机关向我校通报了案件侦办的相关情况。在此，我校公开声明：我们坚决反对以任何形式实施网络攻击。学校高度重视网络安全工作，为师生营造安全的网络环境。学校号召广大师生进一步提高网络安全意识，共同维护学校网络安全
行业AI智能体开放生态联盟在京成立
4月15日，行业AI智能体开放生态联盟在北京正式成立。该联盟由中科曙光发起，联合百度、立思辰、高教社、中科天玑、中教云等多家企业创立。 联盟旨在科研教育、生物信息、精准医疗等前沿领域，依托“超智融合”等技术构建从底层算力硬件到计算函数库，以及云应用的全栈AI智能体开放创新生态体系，推进AI智能
太空链科技AI智能体终端体验中心在京启幕
7月3日，太空链科技全球首家AI智能体终端体验中心正式入驻北京清华科技园。该中心不仅是新兴技术融合的实体化窗口，更标志着太空链科技以“六链融合生态”，推动新兴技术赋能传统产业进入规模化落地阶段。科技创新是民营经济转型的核心引擎。太空链科技紧抓政策机遇，研发落地的AI智能体终端体验中心作为全球首家实现
AI智能体发展提速－小企业亦可能弯道超车
大模型持续更新迭代，人工智能产业不断向深发展。随着生成式AI产品逐渐走入人们的日常工作生活，市场对人工智能的认知进一步加深，更加高阶的AI智能体开始进入投资者视野。 当前，OpenAI正在全力布局AI智能体，另有多家国际科技巨头也在这一领域加码，国内上市企业同样瞄准这一方向，积极发力布局，相
9秒骗走245万！魔高一尺道高一丈，AI诈骗如何防？
AI(人工智能)一键换脸、AI克隆声音、AI钓鱼邮件。。。。。。近日两起诈骗金额上百万元的案件引起人们关注。AI技术快速发展，挑战也逐渐显现。 AI让诈骗门槛大幅降低 近日，内蒙古包头警方通报一起利用AI实施诈骗的案件。在该案件中，福州市某公司法人代表郭先生10分钟内被骗430万元。据通报，
汕头大学发布研究生教育AI智能体
1月20日，汕头大学研究生教育AI智能体发布会在该校桑浦山校区举行。发布会正式揭幕“领潮”藻类和“领潮”心理学两个AI智能体，全面阐述了AI赋能研究生培养的汕头大学方案与实践。汕头大学校长郝志峰、执行校长王泉、医学院院长夏欧东出席会议，研究生院院长杜虹主持发布仪式。发布现场。汕头大学供图 会上
自进化智能体框架“渡鸦”发布－让AI告别“失忆症”
近日，盛大集团孵化的AI科技团队EverMind发布Raven Agent（渡鸦）。作为自进化的智能体，Raven通过双向记忆机制、可重写自身代码的进化能力，试图将AI从“被动响应的工具”推向“主动进化的数字生命”。 当前，大模型能力边界正在不断拓宽，但仍存在一个基础性痛点：AI的“失忆症”。
科研人员开发出糖尿病管理AI智能体
近日，香港理工大学（简称“港理工”）研究团队成功研发出了“糖尿病精准管理AI智能体”（AI Agent）及相关的疾病风险预测模型。该系统利用人工智能（AI）和香港本地的大型电子健康数据，可更精准预测二型糖尿病患者在未来10年出现慢性肾病等并发症恶化的风险，帮助医护人员及患者及早介入、改善管理。相关研
美国研发智能药丸－可监测生命特征还能发邮件
最近摩托罗拉移动公司介绍一款正在研发的很酷的智能药丸。服下这种智能药丸后，使用者本身就是手机的密码——司机只要坐进驾驶位，车子就会在感应到车主后自动启动。“从本质上来说，你的整个身体将变成你的身份认证牌。 它看起来没什么特别，与普通药丸无异，椭圆的形状，比每日服用的维生素片略小一点。只不过
人工智能筑起网络安全“铜墙铁壁”
人工智能筑起网络安全“铜墙铁壁”——LHC用新科技手段防御黑客攻击 每时每刻，全球有成千上万名科学家利用世界最大的粒子物理学实验室——欧洲核子研究中心（CERN）内功能强大与大型强子对撞机（LHC）相连的计算机网络——“全球LHC计算网格（Worldwide LHC Computing Gr
人工智能，为科研注入智慧动能
日前，科技部等六部门发文，着力打造若干重大场景，拓展人工智能应用，高水平科研活动是其中之一。如今，我国人工智能技术快速发展，在数据获取、实验预测、结果分析等方面具有优势，生命科学、数学、化学、空间科学等学科研究纷纷拥抱人工智能。丰富的应用场景也反哺技术发展，推动产业智慧升级。 从日常生活到科学研
吴世忠院士：要注重医疗领域的数据安全问题
近日，在香港中文大学(深圳)举办的2024新质生产力、医工融合创新大会上，中国工程院院士吴世忠以《人工智能视角下的医疗数据安全与患者隐私保护》为题进行主题报告。他提到，随着人工智能（AI）技术的不断发展和迭代，人类社会已进入大算力、大模型、大数据、大应用时代。医疗领域早已引入人工智能，在流行病监测、
CAS推出科研智能体AI－Newton：同行评审科学与人工智能的融合
美国化学会分支机构CAS本月宣布推出CAS Newton，这是一款专为科学研究设计的对话式代理人工智能。Newton基于该组织高度结构化的文献和数据集合，涵盖化学、生物学、材料科学和知识产权等领域。 CAS产品管理临时副总裁Jian Wu表示："我们不把Newton仅仅视为纯AI，对吧？Newto
大模型让全球“黑客”狂欢！AI安全向何处去？
对网络安全而言，每一次新的信息技术浪潮都蕴含着巨大机会，同时也意味着巨大的挑战。这是因为，新技术必然带来新的安全问题和新的需求，而“黑客”往往能快一步利用新的漏洞并发起攻击，“防守方”则需要更快的响应和改变。大模型技术亦如此。近日，在主题为“安全AI未来”的“C3安全大会·2024”上，亚信安全亚信
通用生物医学AI智能体可自主执行科研任务
美国斯坦福研究团队近日在《科学》杂志上报告了一种名为Biomni的通用生物医学AI智能体，其能够自主执行从数据分析到实验设计的多种研究任务。团队在多个案例研究中测试了该工具，认为其性能稳定，多项任务表现接近人类专家。该成果意味着AI智能体可与人类研究人员协作，加速推进生物医学从基础研究迈向应用转化。
传统方法－vs－AI智能体助手：谁更胜一筹？
把你的密码交给人工智能，让它替你跑腿一个礼拜，会怎样？《科学美国人》记者玛丽·伦道夫做了这样一场实验：她把Meta的Muse和OpenAI的dots（分别化名"马克"和"山姆"）接入自己的邮箱、银行和社交媒体，观察这两位人工智能智能体究竟能帮多少忙，又埋下了多少隐患。 研究背景：人工智能智能体走
从被动防御向主动协同、智能防御转变－——专家热议如何筑牢AI时代网络安全屏障
人工智能加速演进，不仅重塑生产生活方式，也正在改变网络攻防的速度、规模和模式，带来前所未有的安全风险。 “近段时间以来，多轮驱动的网络攻击呈现出智能化、自动化、隐蔽化的特征，深刻重塑网络安全保障的体系和治理格局，成为影响国家网络安全的一个关键变量。”9月14日，在2026年国家网络安全宣传周网
创建“液体指纹库”将味觉“注入”智能设备
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/506537.shtm智能传感设备已在诸多领域得到应用，但让智能传感设备模拟人类味觉器官感受物质的能力仍面临挑战。为解决这一问题，中国科学院北京纳米能源与系统研究所王中林院士和吴治峄研究员团队从人类舌头感知
企业信息安全事件两年飙升逾九倍
29日，普华永道发布最新全球信息安全状况调查显示，在过去一年中，中国内地及香港企业检测到的信息安全事件平均数量高达2577起，是前次调查记录的两倍，较2014年更是攀升969%。 调查发现，全球各行业检测到的信息安全事件平均数量有所下降，为4782起，比2014年减少3%。但是，电信、娱乐及