AI食谱诈骗泛滥难题终于有解了
一份报告揭开AI食谱骗局 一份新近发布的报告揭露了数千个正在网络上泛滥、用人工智能生成食谱的诈骗网站。 报告指出，某些细分领域的出版商公然隐瞒其所有者和作者身份，这已是业界心照不宣的常识。 他们在站点上使用人工智能照片和虚构的背景故事，而人工智能垃圾内容增长最稳定的来源之一正是AI食谱网站。 安全专家、Decrypt Ads研究员Zach Edwards告诉Futurism，他最初识别出约400个可疑网站。 这些网站似乎在以虚构厨师的名义发布人工智能生成的食谱，冒充真实的美食作者。 通过所谓的技术指纹，他又发现了数百个与这些手动挖出的可疑域名相关联的站点。 总数由此攀升到大约2100个不同的域名，其中许多似乎由同一批运营者操控。 案例：以艾米莉布朗特为皮囊的骗局 Edwards表示，研究团队原本预期这些运营者会试图隐藏自己的网站，不愿让人知道他们拥有的全部资产。 报告称，这些垃圾食谱网站往往采取激进的社交媒体策略来博取流量。 ......阅读全文
9秒骗走245万！魔高一尺道高一丈，AI诈骗如何防？
AI(人工智能)一键换脸、AI克隆声音、AI钓鱼邮件。。。。。。近日两起诈骗金额上百万元的案件引起人们关注。AI技术快速发展，挑战也逐渐显现。 AI让诈骗门槛大幅降低 近日，内蒙古包头警方通报一起利用AI实施诈骗的案件。在该案件中，福州市某公司法人代表郭先生10分钟内被骗430万元。据通报，
AI食谱诈骗泛滥难题终于有解了
一份报告揭开AI食谱骗局 一份新近发布的报告揭露了数千个正在网络上泛滥、用人工智能生成食谱的诈骗网站。 报告指出，某些细分领域的出版商公然隐瞒其所有者和作者身份，这已是业界心照不宣的常识。 他们在站点上使用人工智能照片和虚构的背景故事，而人工智能垃圾内容增长最稳定的来源之一正是AI食谱网站。 安全
给“深度伪造”这匹“野马”拴上缰绳
利用生成式人工智能（AI）制造的虚假图片、音频和视频信息等“深度伪造”内容正在快速传播，被用来骚扰他人、诈骗金钱，甚至干扰选举。 英国《新科学家》网站近日报道，美国OpenAI公司的文本—视频模型Sora横空出世，让人们能更快捷、更廉价地制作出视频，事实与虚构的分界线也愈加模糊，进一步加剧了人
“打假神器”识别深伪视频准确率超95％
据英国《新科学家》网站4日报道，人工智能（AI）深度伪造技术日益泛滥，美国加州大学尔湾分校科学家开发出一款通用检测器，能以95%—99%的准确率识别各类AI深度伪造视频，有望成为打击网络虚假信息的有力武器。随着AI技术门槛降低，深度伪造视频正以惊人速度污染网络空间。从伪造政客演讲干扰选举，到制作名人
当心陷入深度伪造语音陷阱
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/505961.shtm
从韩国Deepfake事件思考我国人工智能安全
近年来，人工智能技术的发展带来了新需求、新进展，同时也带来了新变化、新问题。加强网络安全体制建设，建立人工智能安全监管制度，是人工智能时代的持久命题。今年8月，韩国曝出群体性的深度伪造（Deepfake）淫秽内容犯罪事件，受害者涉及500多所学校的女学生，再次敲响了人工智能新技术安全风险的警钟。随着
从韩国Deepfake事件思考我国人工智能安全
近年来，人工智能技术的发展带来了新需求、新进展，同时也带来了新变化、新问题。加强网络安全体制建设，建立人工智能安全监管制度，是人工智能时代的持久命题。今年8月，韩国曝出群体性的深度伪造（Deepfake）淫秽内容犯罪事件，受害者涉及500多所学校的女学生，再次敲响了人工智能新技术安全风险的警钟。随着
院士带货竟是AI伪造！新技术如何才能用在正道上？
快速进化的AI生成技术，让生成假照片、假图像，甚至视频换脸都更加容易，且真假难辨。尤其是AI合成的假视频甚至冒充名医、名人进行虚假宣传，对公众实施诈骗。中国工程院院士、天津中医药大学名誉校长张伯礼也是受害者之一。 院士带货 竟是AI伪造 不久前，网络中出现了这样一个视频，视频中张伯礼院士正在
到2026年，9成在线内容可能是合成生成
当你沉浸于“换声”“换脸”的游戏时，却不知，自己或将成为这项技术的“受害者”。 据欧洲刑警组织近期发布的一份观察报告预测，到2026年，高达90%的在线内容可能是合成生成的。这意味着虚假信息的增加，包括深度伪造（deepfake）。 更令人担忧的是，犯罪分子在未来几年将增加对深度伪造的使用，
专家预警：到2026年，9成在线内容可能是合成生成
当你沉浸于“换声”“换脸”的游戏时，却不知，自己或将成为这项技术的“受害者”。 据欧洲刑警组织近期发布的一份观察报告预测，到2026年，高达90%的在线内容可能是合成生成的。这意味着虚假信息的增加，包括深度伪造（deepfake）。 更令人担忧的是，犯罪分子在未来几年将增加对深度伪造的使用，
给“深度伪造”这匹“野马”拴上缰绳
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/518071.shtm
大模型为深度伪造带来土壤，鉴伪技术需要跨学科合作
·鉴伪技术开发需要跨学科合作，当前的鉴伪技术以软件算法为主，未来将走向软硬一体。大模型兴起为深度伪造带来土壤，业界呼吁跨学科联合攻坚鉴伪技术。在大模型时代，人工智能合成语音与真实语音之间的界限变得越发模糊，提升与之匹配的识别技术迫在眉睫。7月23日，主题为语音深度鉴伪识别的第九届信也科技杯全球人工智
谷歌CEO：AI虚假内容说明监管必要性
“我一直认为 AI （人工智能）是人类正在研究的最深刻的技术，比火、电或我们过去所做的任何事情都要深刻。”当地时间4月16日，在哥伦比亚广播公司（CBS）的采访节目《60分钟》里，谷歌及其母公司Alphabet的首席执行官桑达尔·皮查伊（Sundar Pichai）表达了他对人工智能的快速发展及其对
多措并举促进深度合成技术向善发展
“加快发展数字经济，促进数字经济和实体经济深度融合”“构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎”，党的二十大报告的重要部署，为以人工智能等新兴技术驱动数字经济发展提供了重要遵循。作为人工智能领域的创新应用，深度合成近年来风头正劲，AI语音助手、虚拟
使用天文学技术检测“深度伪造”人脸
计算机生成的“深度伪造”图像，乍一看与真实照片一模一样。目前，研究人员正在利用天文学技术来帮助确定图像的真实性——使用通常用于调查遥远星系的方法分析人脸图像，可以测量一个人的眼睛如何反射光，从而发现图像处理的迹象。深度造假的图像和视频可以用来传播错误信息。图片来源：Stu Gray/Alamy
使用天文学技术检测“深度伪造”人脸
计算机生成的“深度伪造”图像，乍一看与真实照片一模一样。目前，研究人员正在利用天文学技术来帮助确定图像的真实性——使用通常用于调查遥远星系的方法分析人脸图像，可以测量一个人的眼睛如何反射光，从而发现图像处理的迹象。深度造假的图像和视频可以用来传播错误信息。图片来源：Stu Gray/Alamy近日，
AI“狂飙”引担忧－监管讨论在升温
自去年底ChatGPT“一夜成名”，人工智能（AI）迎来“狂飙”时刻，AI生成内容（AIGC）领域快速发展。与此同时，数据泄漏、电信诈骗、个人隐私风险、著作权侵权、虚假信息等挑战层出不穷，关于AI监管的讨论正在全球范围内升温。 包括埃隆·马斯克在内的1000多名科技领袖、技术人员和研究人员今年
用AI犯罪的五种方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更高效、更
用AI犯罪的五种方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。 安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更
更智慧地使用人工智能工具
有意识地培养可以与智能工具良好沟通的数字素养，掌握好驾驭这项新技术的本领，从而把握住人工智能带来的机遇，应对好人工智能带来的挑战 回答问题、创作代码、翻唱歌曲……近期，被称为生成式人工智能的新技术被应用于许多新场景、新产品。这种利用现有文本、音频文件或图像创建新内容的方式，被视为人工智能领域的
AI应用如何监管？美国政商界商讨应对措施
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498415.shtm 随着聊天机器人ChatGPT等人工智能应用的爆炸式发展，美国联邦政府多家机构和硅谷技术企业都在商讨如何妥善加以监管，在鼓励技术创新的同时保护公众利益。 当地时间11日，美国商
重庆印发“十五五”人工智能发展规划，打造智能经济新高地
（四）构建多元协同治理格局建立跨部门协同监管机制，鼓励行业企业牵头建立自律公约和合规指引，明确人工智能功能合规、算法治理、知识产权保护、公平竞争等规范细则。强化人工智能专业服务供给，实行差异化合规管理，对技术滥用、诱导消费、虚假宣传、隐瞒缺陷信息等行为，实施失信惩戒。畅通社会监督渠道，鼓励社会公众、
《文本图像篡改检测系统技术要求》团体标准发布
Deepfake（深度伪造）技术野蛮生长，导致文档图像领域成为诈骗的重灾区。在韩国通讯软件Telegram上，某私密聊天室成员利用女性照片非法合成色情照片和视频，造成恶劣影响；某视频网站上，由人工智能（AI）合成的马斯克等名人为虚假投资做背书的视频泛滥成灾。为助力文档图像处理技术安全、有序发展，近日
手机应用程序内置广告存隐私安全风险
美国北卡罗来纳州立大学的研究人员3月19日报告说，对智能手机用户而言，手机应用程序中的内置广告可对用户构成隐私和安全风险。 研究人员去年3月至5月抽样调查了10万个适用于安卓操作系统的手机应用程序。测试报告显示，其中的297个程序含有特殊广告，可令手机从远端服务器下载并运行某些代码。
2023年中国网络文明大会发布报告显示网络综合治理体系基本建成
日前举办的2023年中国网络文明大会发布《中国网络文明发展报告2023》显示，我国网络空间生态环境日益清朗，基本建成网络综合治理体系。各类问题乱象得到有效整治，网络辟谣、网络举报等工作机制不断健全，网络生态持续向善向好。 《报告》显示，伴随互联网新技术、新应用、新业态不断涌现，网络诚信问题日益
ThetaRay公司成功完成5700万美元融资：用AI技术反AI洗钱
基于人工智能的反洗钱（AML）平台ThetaRay日前宣布成功完成一轮5700万美元的融资，由Portage领投，同时有JVP、OurCrowd以及其他未透露姓名的早期投资方参与。这一融资将ThetaRay的总融资金额提升至1.6亿美元。ThetaRay的AML平台具备自动扫描和识别银行及其他金融机
深度伪造X光片以假乱真：资深放射科医生也分不清的AI陷阱
连最专业的眼睛也难以分辨三月二十四日发表在北美放射学会旗舰期刊《放射学》上的一项研究揭示了一个令人不安的发现：人工智能生成的深度伪造X光图像已经逼真到足以欺骗经验最丰富的放射科医生，即便他们明确知道测试中可能包含合成图像。所谓深度伪造是指利用人工智能技术创建或篡改的视频、照片、图像或音频文件，虽然看
清华五道口金融学院：不法分子冒用教授名义行骗
9月23日，清华大学五道口金融学院在官网发布严正声明称，有不法分子冒用该院副院长、教授田轩的姓名及肖像、伪造身份信息实施违法活动。声明中称，近日，有不法分子冒用田轩的姓名及肖像，通过APP、QQ群、微信群等网络平台，搭建粉丝群，发布虚假信息，进行所谓“投资推介”“股票推荐”等。此类行为涉嫌金融投资诈
教育部发布预警：谨防“高价志愿填报指导”陷阱
近期，各地将陆续发布2022年高考成绩，并启动开展高考志愿填报工作。 教育部要求各地各校要积极为考生提供志愿填报咨询等公共服务，深入实施“2022高考护航行动”。 ——开展“点亮权威考试招生机构官网标识”专项行动。 教育部已协调相关互联网平台对各省级教育招生考试机构和属地高校注册的官方网站、微
这些“深度伪造”的X光片能骗过放射科医生
一项3月24日发表于《放射学》的研究表明，大多数放射科医生难以辨识由人工智能（AI）生成的X光扫描图像；在混杂于真实医疗数据中的合成图像面前，仅有不到半数的医生能够将其识别出来。大型语言模型在区分真实与合成医疗图像方面也同样表现吃力。 AI生成的X光片若被纳入训练数据集可能会对分析医疗数据的A