马里兰大学帕克分校与Facebook AI的研究人员合作,开发了一种能够在物理和数字环境中有效降低对象检测器性能的对抗性模式。这项技术通过在物体上覆盖特定图案来欺骗检测器,使其无法正确识别对象,类似于一种“隐形斗篷”。

研究的主要目的是揭示对象检测器的安全漏洞。对象检测器通常用于安全监控和自动驾驶汽车等技术中,用于识别和定位图片中的物体。研究人员发现,通过有意设计的对抗性图案,可以欺骗这些检测器,这在安全敏感的应用中可能造成严重问题。

image.png

此外,研究还探讨了对抗性攻击的传递性,即在不同检测器模型、不同对象类别和不同数据集之间的传递性。研究团队解决了如何将数字对抗性攻击转换到物理世界的问题,确保数字生成的对抗性图案在现实世界中同样有效。

研究者开发的特殊对抗性图案,可以应用到物体表面,如衣物,使得这些物体对对象检测器来说变得“隐形”。这项技术的主要功能包括生成对抗性图案,适应多种检测器模型,并适用于物理世界。工作原理是使用机器学习技术,特别是对抗性训练方法,生成能够扰乱检测器算法的图案。

对抗性模式的设计、优化和实际应用是该技术方法的关键步骤。模式通过对抗性训练生成,目的是干扰和欺骗对象检测器。使用标准的对象检测数据集,如COCO数据集,进行模式初始化和优化。在优化过程中,需要考虑不同的尺寸、角度和光照条件,以确保模式在多种现实世界的条件下都有效。

实体测试和迭代是将数字模式应用到实体物体上的过程,如印刷到衣物或海报上,并在真实环境中进行测试。打印和材质选择、环境测试以及对攻击的有效性进行严格的量化分析都是这一阶段的重要组成部分。

通过这种方法,研究团队能够创建一种新的防御机制,可以应用于提高个人隐私保护,或在军用和安全领域中用于防御自动化监视系统。同时,这项技术的开发也揭示了当前对象检测技术的潜在脆弱性,为未来的研究和改进提供了重要的洞见。更多信息和论文可以在马里兰大学的相关项目网站和arXiv上找到。


相关文章

马大研发“隐形斗篷”,使穿戴者在监控下“消失无踪”

马里兰大学帕克分校与FacebookAI的研究人员合作,开发了一种能够在物理和数字环境中有效降低对象检测器性能的对抗性模式。这项技术通过在物体上覆盖特定图案来欺骗检测器,使其无法正确识别对象,类似于一......

上海市农业农村委发布《兽残监控》及《细菌监测》两项计划

各区农业农村委,市农业农村委执法总队,市兽药饲料检测所:为进一步加强畜禽养殖用药的指导和监督,切实做好畜禽及其产品兽药残留监控和动物源细菌耐药性监测工作,有效保障养殖业生产安全和动物产品质量安全,根据......

针对个人信息野蛮掘金的时代结束了

在手机上浏览购房信息,转身就接到装修销售电话;闲聊中提到某个产品,打开购物APP就收到同类广告推送……类似上述“被APP监控”的场景,对很多人而言,并不陌生。11月8日,工信部就《关于开展信息通信服务......

感觉时刻被APP监视?工信部帮你忙

你可能碰到过,“在某一APP上浏览、购买产品,而其他APP会推送相关内容”。不少网友认为,这是部分APP监控了自己的上网行为。现在,工信部出手了!“信息共享用在哪”应让用户知情8日,工信部就《关于开展......

台感染者称不信任大陆医疗,致全机46人被监控

新型冠状病毒疫情在全国扩散,各省陆续传出确诊病例,台湾首例发现于1月21日下午,为一名55岁台湾女性。而今天有台媒报道,此名患者在武汉工作,但由于“不信任大陆医疗”,病发后9天登机返台时才被发现。此行......

韩国修改《进口食品等监控人员运营相关规定》

2019年7月15日,韩国食药部(MFDS)发布了第2019-60号告示,修改《进口食品等监控人员运营相关规定》的部分内容,其主要内容如下:由于《进口食品安全管理特别法》中将术语“监控”变更为“信息收......

海底捞“老鼠门”追踪:公司全面整改日后或可参观后厨

海底捞后厨“老鼠门”事件已经过去一月有余,海底捞向社会承诺的整改措施进展如何?中国网财经记者就此采访了海底捞。海底捞媒体管理中心回应称,公司目前还在全面整改当中,具体整改进度暂时不方便对外公布。记者分......

从“毒鸡蛋”事件透析欧盟农药残留监管

近日,欧洲“毒鸡蛋”事件愈演愈烈,此起因是由于荷兰某养殖场的鸡蛋检出氟虫腈残留限量超出欧盟规定的限量要求(0.005mg/kg)。氟虫腈可杀灭跳蚤、螨和虱,被世界卫生组织列为“对人类有中度毒性”的化学......

Nature子刊新技术:第一时间监控手术血液变化

生物通报道:中佛罗里达大学(UCF)的研究人员发明了一种方法,能够连续监视外科手术中的病人血液。该技术首次为较量生死的外科手术提供了实时监控。该技术由UCF光学与光子学学院的AristideDogar......

“产品质量安全风险监控关键技术研究”顺利通过项目验收

2016年9月20日,我院承担的“十二五”国家科技支撑计划项目“产品质量安全风险监控关键技术研究”(2013BAK04B00)在北京顺利通过了科技部社会发展科技司组织的验收。来自科技部社会发展科技司、......