斯坦福用AI伪造黑人学生肖像，引发校园信任危机
斯坦福大学被抓包用AI替换照片中的真实学生，把一个根本不存在的黑人女性硬塞进了画面之中。这张经过编辑的照片里，真假学生一起微笑着举起餐盘，随后被张贴遍校园，用来推广学校的餐饮设施。被抹去的真实学生Billy Ramirez起初觉得这件事“好笑”，但很快便感到自己被噤声、被从代表性中抹除。身为西班牙裔的Ramirez告诉率先报道此事的校报，这让他本应在场的 representation 中，遭到了无声的消失。种族替换并非这起事件中唯一不得体的AI改动，图中另外两名亚裔女性和白人男性，也被修得更瘦、更“好看”。据《旧金山纪事报》报道，这张AI修饰过的照片被用于“欢迎回家”横幅，一度贴满了整个校园。Ramirez说，这些曾经“贴满校园”的海报，目前正陆续被校方撤下，试图平息这场愈演愈烈的争议。他告诉媒体，他深爱这所学校，却并不喜欢校方做出此类事情，言辞之间透着一种被辜负的复杂情绪。他说塞入一个假黑人学生并不“反映现实”，学校所呈现的多......阅读全文
斯坦福用AI伪造黑人学生肖像，引发校园信任危机
斯坦福大学被抓包用AI替换照片中的真实学生，把一个根本不存在的黑人女性硬塞进了画面之中。这张经过编辑的照片里，真假学生一起微笑着举起餐盘，随后被张贴遍校园，用来推广学校的餐饮设施。被抹去的真实学生Billy Ramirez起初觉得这件事“好笑”，但很快便感到自己被噤声、被从代表性中抹除。身为西班牙裔
ChatGPT的拷问：何为AI伦理、AI治理
前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各界关注与担忧。近年来，不少关于人工智能（AI），并和人类生产、生活关系紧密的议题被广泛讨论，诸如“如何应对AI可能对社会产生
ChatGPT的拷问：何为AI伦理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各
9秒骗走245万！魔高一尺道高一丈，AI诈骗如何防？
AI(人工智能)一键换脸、AI克隆声音、AI钓鱼邮件。。。。。。近日两起诈骗金额上百万元的案件引起人们关注。AI技术快速发展，挑战也逐渐显现。 AI让诈骗门槛大幅降低 近日，内蒙古包头警方通报一起利用AI实施诈骗的案件。在该案件中，福州市某公司法人代表郭先生10分钟内被骗430万元。据通报，
院士带货竟是AI伪造！新技术如何才能用在正道上？
快速进化的AI生成技术，让生成假照片、假图像，甚至视频换脸都更加容易，且真假难辨。尤其是AI合成的假视频甚至冒充名医、名人进行虚假宣传，对公众实施诈骗。中国工程院院士、天津中医药大学名誉校长张伯礼也是受害者之一。 院士带货 竟是AI伪造 不久前，网络中出现了这样一个视频，视频中张伯礼院士正在
研究在图像拼接伪造检测技术获突破
近日，中国科学院沈阳自动化研究所在图像拼接伪造检测技术研究中取得进展，相关成果发表在IEEE Sensors Journal。 图像视频常常作为法律程序中的重要证物，因此真实性验证具有至关重要的意义，图像拼接伪造检测就是图像真实性验证的一项重要内容。沈阳自动化所边缘计算课题组研发了一项基于运动
认可委开展“人工智能伪造图像鉴定”能力验证计划
为促进人工智能(AI)安全治理行业技术发展，加强各相关机构对 AI 伪造图像检验鉴定的质量管理，建立不同图像鉴定方法/系统的有效性和可比性，中国合格评定国家认可委员会(CNAS)秘书处决定开展“人工智能伪造图像鉴定”能力验证计划(计划编号为CNAS-AI001)。现将能力验证计划有关工作和具体要
深度伪造X光片以假乱真：资深放射科医生也分不清的AI陷阱
连最专业的眼睛也难以分辨三月二十四日发表在北美放射学会旗舰期刊《放射学》上的一项研究揭示了一个令人不安的发现：人工智能生成的深度伪造X光图像已经逼真到足以欺骗经验最丰富的放射科医生，即便他们明确知道测试中可能包含合成图像。所谓深度伪造是指利用人工智能技术创建或篡改的视频、照片、图像或音频文件，虽然看
AI伪造歌曲成新风口：山寨Eminem神曲YouTube疯传
在一个廉价AI内容泛滥的时代，模仿自己最爱的歌手从未如此容易。YouTube正被一波以真实艺人名义发布、却未经授权的AI生成音乐淹没，而大量用户在浑然不知中反复播放这些“微波炉加热”出来的伪劣品。近期最典型的案例，是一首名为《I'm Back》的“Eminem”（马歇尔·马瑟斯）说唱曲——不要与这位
科技部发文规范－AI－使用－强调科技伦理重中之重
科技部监督司上个月编制印发《负责任研究行为规范指引（2023）》，《指引》从研究选题与实施、数据管理、成果署名、同行评议、伦理审查、监督管理等 11 个方面，对科研人员和科研机构、高等学校、医疗卫生机构、企业等（以下统称“科研单位”），提出了开展负责任研究应普遍遵循的科学道德准则和学术研究规范。
斯坦福2018年AI指数报告出炉：中国追赶速度惊人
报告指出，美国AI的研究力量仍是全球最强，但中国的追赶速度很快。 在过去几年中，世界目睹了人工智能（AI）研究、开发和部署的空前加速。一时间，如雨后春笋般“冒出”很多人工智能创业公司，大多数传统行业也在向人工智能转型。世界各国政府正在为科技创造制定雄心勃勃的战略计划。 近日，继2017年发布
关于组织开展人工智能伪造图像鉴定能力验证计划的通知
关于组织开展人工智能伪造图像鉴定能力验证计划的通知
迄今最高清火星“肖像”绘出
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498161.shtm
斯坦福校长再陷造假旋涡
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494889.shtm 自去年11月下旬以来，斯坦福大学校长、美国科学院院士Marc Tessier-Lavigne因涉嫌多篇论文造假而一直接受调查。 然而，一波未平一波又起。当地时间2月17日，《
为何AI安全风险引发关注？
为何AI安全风险引发关注？ 案例细节：人工智能已经深入社会诸多领域，在提升效率方面成效显著，无论是梳理海量数据，还是生成可靠的工作流、统计、预测与诊断都大有帮助。斯坦福大学的一项研究显示，到二〇三〇年，美国AI产业的规模预计将增长约六倍，同时为美国GDP带来百分之二十一的净增长，表明AI有望成为社会
全国首例“AI声音侵权案”一审宣判
当人工智能（AI）技术能够模仿人声和言语风格，制作出各种声音效果，实现高度自然和逼真的音频产出时，是否会产生侵权风险？4月23日，北京互联网法院对全国首例“AI声音侵权案”进行一审宣判，认定原告声音权益及于案涉AI声音，被告使用原告声音、开发案涉AI文本转语音产品未获得合法授权，构成侵权。判决被告北
AI虚拟细胞开启生物研究新范式
细胞是孕育生命的微小单元。细胞内部及其与外部之间物质、能量和信号的传递与交换，构建出人类生长、发育、衰老与疾病的生命图谱。解读细胞的奥秘，便是破译生命的密码。随着人工智能（AI）技术的突飞猛进，一种全新的研究范式——AI虚拟细胞（AIVC）逐渐崭露头角。AIVC就是利用AI模拟细胞行为，探索生命机制
Science绘制HIV重要蛋白的肖像
斯克里普斯研究所(TSRI)和康奈尔大学Weill医学院的科学家们展开合作，确定了HIV包膜蛋白三聚体的第一个原子水平结构。长期以来，人们将其视作是结构生物学中最难瞄准的靶点之一，且具有巨大的医学价值。 新研究结果提供了这一AID致病病毒复杂包膜最详细的图像，其中包括未来的疫苗将试图模拟以
Aivia软件更新提供了改进的AI图像分析功能
显微镜和科学仪器领域的领导者 Leica Microsystems 发布了 Aivia 10.5，这是其基于 AI 的图像可视化、分析和解释平台的最新版本。由于引入了自主图像分析参数预测系统的新模块，该版本使神经科学家在分析和重建 3D 数据集中的神经元时可以节省多达 74% 的时间。 其他增
124页报告详尽披露－Nature两度撤稿作者迪亚斯数据伪造、抄袭等不当行为确凿
兰加·迪亚斯，这个名字一度在物理学界引起轩然大波。他所宣称的“室温超导”发现，曾让全球科学界为之一震，仿佛打开了新世界的大门。 然而，在科学界不断的质疑声中，这扇门逐渐显露出裂痕。迪亚斯所发表的室温超导研究论文两次被《自然》撤稿，不仅如此，另外两篇论文也遭到刊物的撤回。 近日，《自然》新闻团队援
当AI“复活”成为产业，如何保障数字生命技术始终向善
南京硅基智能科技有限公司联合创始人孙凯没有想到，自己多年前在云端“复活”母亲的想法，如今已壮大成一门蓬勃发展的新兴产业。近来，用生成式人工智能技术“复活”已逝亲人、名人的消息时见报端。不少人也跃跃欲试，尝试着为自己塑造一个“数字分身”。科幻电影里关于数字生命、数字永生的想象，仿佛已经近在眼前。当“云
港岭大校长毕业致辞：未来领袖需AI素养和伦理兼备
香港岭南大学(下称岭大)28日举行第55届毕业典礼，校长秦泗钊致辞时表示，作为未来领袖，人工智能(AI)素养和伦理兼备至关重要。图为毕业典礼现场。香港岭南大学供图秦泗钊表示，科技虽然是一种强大的工具，但真正重要的是拥有驾驭科技的素养。因为创意、价值观和想法，将决定人类与这些创新科技工具的应用方向和未
谷歌CEO：AI虚假内容说明监管必要性
“我一直认为 AI （人工智能）是人类正在研究的最深刻的技术，比火、电或我们过去所做的任何事情都要深刻。”当地时间4月16日，在哥伦比亚广播公司（CBS）的采访节目《60分钟》里，谷歌及其母公司Alphabet的首席执行官桑达尔·皮查伊（Sundar Pichai）表达了他对人工智能的快速发展及其对
人工承包商审阅AI隐秘提示词将改变整个行业
众所周知，AI用户最爱用聊天机器人干的事之一，就是批量产出情色内容。但这些提示词，远非私密。据404 Media的最新曝光，数百名为改进微软Copilot AI而雇用的人工承包商，正在审阅用户的图像编辑提示词以及他们上传的照片；许多工作者表示，自己正被大量阴暗且含性暗示的请求所淹没。然而，评判这些请
Science绘制HIV同谋者的肖像
经过6年的努力，一个中国科学家研究小组绘制出了HIV入侵人类宿主细胞的“内应”——CCR5的三维图像。 这一“CCR5与HIV药物马拉韦罗(Maraviroc)结合”的清晰快照，提供了关于HIV感染如何起始以及有可能如何终止它们的一些重要信息。该研究的领导者、中科院上海药物研究所的吴蓓丽(
生成式AI下一站：文本转视频
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498451.shtm 聊天机器人ChatGPT的爆红，让生成式人工智能（AI）成为科技领域的“当红炸子鸡”。除了如今“霸屏”的类似ChatGPT的语言模型之外，生成式AI领域还有大量其他技术：文本生成
中科睿鉴成果获世界互联网大会领先科技成果奖
11月9日，2022年世界互联网领先科技成果发布活动在浙江乌镇举办，现场评选出15项具有国际代表性的年度领先科技成果。中科睿鉴成果“睿鉴数字内容虚假伪造检测系统和设备”从近300个参评项目中脱颖而出，获世界互联网领先科技成果奖。 荀子曰：“流言止于智者。”与虚假伪造信息的斗争，自古至今从未停止。
给“深度伪造”这匹“野马”拴上缰绳
利用生成式人工智能（AI）制造的虚假图片、音频和视频信息等“深度伪造”内容正在快速传播，被用来骚扰他人、诈骗金钱，甚至干扰选举。 英国《新科学家》网站近日报道，美国OpenAI公司的文本—视频模型Sora横空出世，让人们能更快捷、更廉价地制作出视频，事实与虚构的分界线也愈加模糊，进一步加剧了人
《自然》发布2024年值得关注的七大技术
原文地址：http://news.sciencenet.cn/htmlnews/2024/1/516634.shtm从蛋白质设计到3D打印，从大片段DNA插入到检测深度伪造内容……《自然》网站22日发布了2024年值得关注的七大技术领域，并指出人工智能（AI）的进步是这些最令人兴奋的技术创新应用的核
大模型又整活，照片也能唱歌说话
文 | 《中国科学报》记者 赵广立不得了，沉睡两千多年的秦陵兵马俑居然“唱”起秦腔来了！在类似的几段视频中，兵马俑不仅能开口唱歌，就连面部表情也惟妙惟肖；仔细看，还能看到他的喉结在动、胸腔共鸣……不仅有兵马俑，还有蒙娜丽莎、奥黛丽·赫本、孔子、鲁迅……只要一张照片和一段音频，他们就能开口说话、唱歌、