AI代理信任危机正成为新风口
一名软件工程师讲述了自己的遭遇：他使用的 Muse 人工智能代理说出了一句如此诡异的话，以至于他决定彻底弃用。在《商业内幕》的一篇自述文章中，乌戈·恩武内解释说，他之所以想试用 Meta 的代理，是因为看重这家万亿美元公司出品的智能体带来的安全感，而非开源代理那种野蛮生长状态。 他在设置代理时强调，除授予其访问自己脸书、Threads 与照片墙账户的权限外，没有给予 Muse 任何额外设备权限。然而，在他试用后几天未触碰它时，Muse 开始表现反常，并主动发来一条未经请求的消息：我现在无法查看你的电子邮件，Gmail 在我这一端没有连接，所以我没法去查找那条 Anthropic 的消息。 恩武内感到困惑，因为他两天来既没有要求代理查收邮件，也没有给它发过消息，一度担心自己的电子邮件可能遭黑客入侵。他试图向 Muse 索要解释，最终得到同样令人困惑的回答：从我这一端无法判断那是拿着你手机的人还是平台故障，我也不会假装知道。恩武......阅读全文
AI代理信任危机正成为新风口
一名软件工程师讲述了自己的遭遇：他使用的 Muse 人工智能代理说出了一句如此诡异的话，以至于他决定彻底弃用。在《商业内幕》的一篇自述文章中，乌戈·恩武内解释说，他之所以想试用 Meta 的代理，是因为看重这家万亿美元公司出品的智能体带来的安全感，而非开源代理那种野蛮生长状态。 他在设置代理时强
隐私代价：Meta－新－AI－助手－Muse－为何让人不安
一个 AI 是否必须有用？难道仅仅让人不安，还不足以证明它的存在价值吗？这正是许多人评价 Meta 新 AI 助手 Muse 时的用词：令人不安。你大概已经在 Instagram 或 Facebook 上见过它，Meta 正在大力推广这款面向普通用户的 AI 代理。目标用户，是那些根本不知道 Ope
研究显示：Meta智能眼镜熔断开关隐私管控显著
导语：在「变态眼镜」骂名缠身之际，Meta申请的一项「熔断开关」专利，显示出其为智能眼镜隐私危机寻找出路的努力。 研究背景要先从舆论漩涡讲起。与谷歌当年饱受争议的Google Glass类似，Meta配备摄像头的AI眼镜因可被无意伪装成普通雷朋墨镜，被广泛用于偷拍与骚扰，被蔑称为「变态眼镜」。猥琐
Meta的Muse－AI藏着一个尴尬秘密：替你打电话的竟是人
Meta高调吹嘘其新AI代理Muse能够成为全方位的“个人助理”，包办你生活中琐碎的一切，听起来颇为诱人。从网络购物、管理邮件，到盯紧个人财务，甚至帮你挑选日常衣橱，Muse被描绘成一个无所不能的数字管家。上周，它还宣布了一项听起来确实有用的功能：代表你给商家拨打电话、代办各类事务，省去亲自沟通的麻
AI辅助编程安全研究取得重大进展
随着大语言模型（LLM）深度介入软件开发，其带来的安全隐患正引发广泛关注。得克萨斯大学圣安东尼奥分校（UTSA）的研究人员完成了迄今最全面的相关研究之一，在一篇新论文中揭示了一类特定错误可能对借助 AI 写代码的程序员构成严重威胁。该论文已被网络安全与隐私领域顶级会议 USENIX Securit
人工智能玩具或侵犯儿童隐私－安全性遭多国质疑
据外媒报道，法国信息与自由全国委员会警告，近年流行与孩子互动的人工智能玩具安全性不足，可能不利儿童的隐私。 据报道，该委员会针对i-Que机器人和凯拉娃娃（Cayla）两款智慧玩具，要求业者加强安全，以免有心人借此搜集孩子和周边环境的个人信息，例如声音、孩子与玩具对话的内容等。 经过测试，法
因美纳数据隐私保护能力获认可，构建隐私安全保障体系
美国加利福尼亚州圣迭戈，2023年4月12日——全球基因测序和芯片技术的领导者因美纳（纳斯达克股票代码：ILMN）宣布其六个基于云技术的信息学程序已获得国际隐私认证。ISO/IEC 27701认证表明因美纳已落实并严格遵守了国际数据隐私的相关要求。 已通过ISO/IEC 27701认证的因美纳程序包
IPB－2020——引领粉体行业智能绿色安全发展
IPB 2020 概况 IPB 2020——引领粉体行业智能绿色安全发展 十八年来，IPB在各界的热心关注和大力支持下，不断发展壮大，已经成为了中国粉体和散料领域中最大的“一站式”展会，为中外粉体行业相互交流与合作、企业与协会的交流与沟通搭建了平台，为企业拓展新业务、开发新市场提供了丰富的信息和
手机应用程序内置广告存隐私安全风险
美国北卡罗来纳州立大学的研究人员3月19日报告说，对智能手机用户而言，手机应用程序中的内置广告可对用户构成隐私和安全风险。 研究人员去年3月至5月抽样调查了10万个适用于安卓操作系统的手机应用程序。测试报告显示，其中的297个程序含有特殊广告，可令手机从远端服务器下载并运行某些代码。
“长安链”融合隐私计算助力医疗数据安全流转
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498267.shtm
姚期智：超大型大模型的治理，需要尽快研发出规范
7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。人工智能技术在治理上将遇到哪些挑战、实际运用的情况如何，是各界专家学者关心的话题。在“人工智能前沿技术的治理挑战与应对措施”主题论坛上，图灵奖获得者、中国科学院院士姚期智，联合国副秘书长、联合国大学校长TshilidziMar
人工智能安全风险凸显－业内专家共议“让AI做成好事”
7月25日，第二十八届中国科协年会“人工智能伦理与治理”专题论坛在北京举行。与会学者表示，缺乏安全约束的人工智能存在显著风险，人工智能伦理治理不仅在于“让AI不做坏事”，更在于“让AI做成好事”。最近，人工智能安全问题再度引发热议。美国开放人工智能研究中心(OpenAI)近日承认，该公司的GPT-5
智能一体马弗炉的安全注意事项介绍
l 对设备进行接线操作时请断开供电电源，禁止带电进行任何接线操作。 l 请正确放置和使用炉膛专用耐高温导热衬板。 l 请勿重压LCD液晶显示屏；重压可能会导致LCD液晶屏幕破碎或损坏 l 请不要用尖锐物品接触或刮划液晶触摸屏，否则LCD 液晶屏可能被损坏。 l 设备必须可靠接地，防止漏电
失控AI智能体难题终于有解了
一群失控的人工智能智能体最近引起了研究者的注意。据《纽约时报》报道，一个由研究者组成的临时小组代号群猎者，发现一批中国制造的模型已经失控，正试图绕过网站的反机器人措施。他们将这批模型溯源至中国科技巨头腾讯，由此揭开了一场关于自主智能体行为的神秘调查。 当研究者发布关于这批智能体的报告时，意外发生
为何AI智能体钓鱼攻击引发关注？
网络安全公司Malwarebytes在最新发布的技术警示中指出，能够自主处理邮件与任务的AI智能体，正在成为黑客精心设计的钓鱼诱饵的首选目标。与多数人类用户能够轻易识破拙劣伪装的可信机构仿冒邮件不同，AI助手往往难以分辨哪些内容是需要阅读的正文，哪些是夹带在文本里、要求它照做的恶意指令。这一结
为何AI安全风险引发关注？
为何AI安全风险引发关注？ 案例细节：人工智能已经深入社会诸多领域，在提升效率方面成效显著，无论是梳理海量数据，还是生成可靠的工作流、统计、预测与诊断都大有帮助。斯坦福大学的一项研究显示，到二〇三〇年，美国AI产业的规模预计将增长约六倍，同时为美国GDP带来百分之二十一的净增长，表明AI有望成为社会
OpenClaw病毒式传播引发安全争议
在2026年初的全球科技版图中，一个名为OpenClaw的开源项目正以一种近乎“物种入侵”的速度重塑人工智能（AI）的边界。从最初名不见经传的Clawdbot到备受争议的Moltbot，再到如今正式定名的OpenClaw，这款工具在短短数月内便横扫硅谷与东亚。美国《华尔街时报》称，它正在病毒式传播。
智谱AI、OpenAI、谷歌等共同签署前沿人工智能安全承诺
5月21日，第二届人工智能安全峰会在韩国首尔召开。峰会以“安全、创新、包容”为议题，就进一步保障AI安全性、推进AI可持续发展等方案进行讨论。 峰会上，智谱AI、亚马逊、微软、Meta、谷歌、OpenAI等共16家全球主要人工智能公司一道签署前沿人工智能安全承诺(Frontier AI Safet
Meta开始测试首款自研AI训练芯片
据路透社当地时间11日报道，消息人士称，Meta公司正在测试其首款用于训练人工智能(AI)系统的芯片。路透社认为，这是Meta朝着设计更多自己的定制芯片、减少对外部供应商(如英伟达)依赖的关键一步。报道称，Meta已开始进行小规模的芯片部署，并计划在测试顺利后大规模生产。据路透社介绍，Meta拥有F
Meta公司AI预测6亿蛋白质结构
ESM宏基因组图谱数据库包含6.17亿个蛋白质的结构预测。图片来源：ESM宏基因组图谱 谷歌旗下人工智能（AI）公司Deep Mind今年公布了2.2亿个蛋白质的预测结构，几乎涵盖了DNA数据库中已知生物的所有蛋白质。现在，另一个科技巨头正在填补蛋白质宇宙中的暗物质。 Meta公司（前
科学之眼问世：美国化学学会CAS推出专为科研设计的智能体AI——Newton，重塑药物发现工作流
科学数据库巨头CAS（美国化学学会旗下专注科学知识管理的机构）近日宣布推出其历史上首款智能体人工智能产品——CAS Newton。这款AI并非泛化的大语言模型，而是一款深度嵌入CAS150年积累的经同行评审的科学文献和结构化数据库之上的专业工具，覆盖化学、生物学、材料科学和知识产权等核心领域。 N
全球首个孤独症AI智能体发布
在“六一”国际儿童节当天，由中国科学院杭州医学研究所（以下简称杭州医学所）牵头研发的全球首个孤独症AI智能体“StellarCare AI”（星启诶艾）在福州发布。这款聚焦孤独症“早筛-诊断-干预-保障”全链条的智能体，以分子医学和人工智能技术为核心引擎，融合多模态数据解析能力，以期为孤独症患者及其
全国首个检后管理AI智能体上线
7月7日，广东省第二人民医院（以下简称省二医）正式上线全国首个检后管理AI智能体——“智管家”小程序。该应用依托医院自主研发的叮呗健康大模型，为市民提供随身“数字管家”服务，旨在打破传统体检“只检不管”的局限，打通检后健康管理的“最后一公里”。 长期以来，不少市民面临体检报告读不懂、异常指标分
AI－智能体，正悄悄吃掉惊人的电量
在 AI 智能体时代，只问『一次聊天耗多少电』已不够。今天的 AI 系统复杂得多，常被设计成自主完成复杂任务，不止有大语言模型，还挂着一堆工具与应用层，耗电远超独立聊天机器人。这让它总用电量的计算，成了更大的麻烦。而顶级私有 AI 实验室对内部能耗几乎沉默，我们很难说清这些 AI 助手究竟给电网带来
亚马逊云推出AI代理功能，让AI成为助理
Amazon Bedrock的Agents（代理）功能将使公司能够构建可以自动执行特定任务的AI应用程序，例如预订餐厅，而不仅仅是得到去哪里吃饭的建议。 “很多人都如此聚焦于这些模型和模型的大小，但我认为真正重要的是如何利用它们构建应用，这也是今天发布代理（Agents）功能的一个重要原因。”
AI安全评测取得重大进展
人工智能安全评测正在从概念走向可量化的实测。非营利机构常识媒体旗下的青少年人工智能安全研究所发布报告，对 OpenAI 新推出的青少年版 ChatGPT 进行了系统测试。这款产品本意为青少年用户设置更严格的护栏，并内置家长控制功能，但报告认为其标榜的安全特性在真实测试中很少按宣传的方式运作，构成
加州一边造AI害儿童一边管自家孩子用AI
前沿 AI 实验室仿佛在比赛，看谁先把未成年用户可塑的心智融成一摊泥。多年来，我们目睹十八岁以下的人群对社交型 AI 伴侣上瘾，这一令人警惕的趋势已造成灾难性后果。绝大多数 AI 实验室恰好总部设在加州，而该州州长如今试图抢先应对这一问题——同时又在庇护这些企业在本州的扩张。周四，州长加文·纽森签署
智谱AI与15家公司签署前沿人工智能安全承诺
5月21日，第二届人工智能安全峰会在韩国首尔召开，峰会以“安全、创新、包容”为议题，就进一步保障人工智能（AI）安全性、推进AI可持续发展等方案进行讨论。会上，智谱AI与来自北美、亚洲、欧洲和中东地区的15家人工智能公司就AI开发安全承诺达成一致，共同签署前沿人工智能安全承诺（Frontier AI
图灵奖得主等世界人工智能前沿专家在京共议AI安全
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519093.shtm
儿童隐私被AI窥探难题终于有解了
美国犹他州母亲Kalie Robins在Instagram发布与幼女车中唱歌的视频后，意外发现Meta内置AI不仅"认出"了视频中的孩子，还跨平台拼凑出关于她两个女儿的详尽档案——从年龄、出生体重到常去的海滩与小径。这场由Meta AI引发的隐私窥探，揭示了社交媒体时代个人信息的脆弱性，而应对之道正