专家：警惕不道德使用ChatGPT的潜在威胁
作为一款基于文本的问答式机器人（或称聊天机器人），ChatGPT因广泛应用先进的AI技术而备受关注。从准确修复编码错误、生成烹饪食谱、创建3D动画到制作完整的歌曲、撰写小说和学术论文，ChatGPT展现了人工智能（AI）的惊人能量。然而，有专家提出，人们可以利用诸如ChatGPT等AI工具便捷自己的工作和生活，但若被不道德地使用，ChatGPT也会被用于开发智能恶意软件程序并发起隐形攻击。“AI一直被视为是一把‘双刃剑’。”网络安全供应商“派拓网络”副总裁兼亚太及日本地区首席安全官希恩·杜卡（Sean Duca）2月7日在受访中说道，自2022年11月底ChatGPT问世以来，全球技术专家和评论员一直在关注AI生成的内容工具所产生的影响，尤其是对网络安全的影响。受访的一些技术专家也表示，这种关注也被视为是对ChatGPT“能力”的侧面肯定。在2022 年黑帽和Defcon安全大会上，一个技术团队展示了AI在生成钓鱼邮件和鱼叉式钓......阅读全文
AI驱动安全－专家呼吁提高对网络安全态势的重视
“随着人工智能技术的发展，攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等，网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。”在6月5日举办的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会（以下简称BCS大会）上，中央网信办网络安全协调局副局长王营康对人工智能带
AI教育风潮席卷中国高校－学生用AI学AI
“What does this machine do(这台机器是干什么的)？”4日下午，西南交通大学孟加拉国留学生Zahidul Alam拍下身前吊弦疲劳试验仪器的照片。收到他的语音提问后，手机中的24小时在线“AI学伴”瞬间给出如论文般详细的英文回答。 这是西南交大首门人工智能通识课的第一课
用AI识别AI：西湖大学研究可检测AI生成文本
虚假新闻、恶意产品评论、剽窃……ChatGPT、 GPT-4等AI大语言模型的应用带来便利，但其误用也带来一系列问题。西湖大学工学院张岳教授的“文本智能实验室”日前发布的一项研究提出一种高准确率、高速、低成本、通用的新文本检测方法——Fast-DetectGPT，无需训练即可识别各种AI大语言模型生
“AI+”时代－|－AI“解码”免疫系统
人体免疫系统包含了很多有关身体健康的信息，其中的关键部分就包含在血液中。医学界提出了一个大胆设想：通过创建一个万能的血液测试，采集免疫系统与病原体之间的反应信息，绘制“免疫图谱”，从而解码免疫系统中的信息，及时在疾病恶化前筛查确诊。那么，什么样的平台能提供足够的计算力，不断通过机器学习和精准模型
ChatGPT的拷问：何为AI伦理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各
ChatGPT的拷问：何为AI伦理、AI治理
前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各界关注与担忧。近年来，不少关于人工智能（AI），并和人类生产、生活关系紧密的议题被广泛讨论，诸如“如何应对AI可能对社会产生
用AI数据训练AI可能最终导致崩溃
《自然》7月24日发表的一篇论文指出，用人工智能（AI）生成的数据集训练未来几代机器学习模型可能会污染它们的输出，这个概念称为“模型崩溃”（model collapse）。该研究显示，原始内容会在数代内变成不相关的胡言乱语，显示出使用可靠数据训练AI模型的重要性。生成式AI工具越来越受欢迎，如大语言
为什么越使用AI，越活得像个AI
生成式人工智能（AIGC）在重塑生产力的同时，也给高等教育领域带来了颠覆性变革。然而，它所具有的“技术双面性”很可能引发“流利但不真实”“道德偏见”“技术依赖”等问题，这将影响高等教育场景。2023年初，全球多所高校陆续出台政策禁止学生使用生成式AI，但越来越多的大学开始意识到生成式AI势不可挡，单
AI“参谋”来了！中关村AI新药研发平台落成
12月19日，由中关村生命科学园与角井（北京）生物技术有限公司共同发起建设的中关村AI新药研发平台在北京中关村生命科学园举行落成典礼。该平台于2020年12月开始筹建，旨在利用人工智能技术帮助制药企业快速进行药物靶点发现和筛选、药物作用机制探索、特异性抗体优化等工作，成为生物医药企业新药研发的
用AI数据训练AI可能最终导致崩溃
《自然》7月24日发表的一篇论文指出，用人工智能（AI）生成的数据集训练未来几代机器学习模型可能会污染它们的输出，这个概念称为“模型崩溃”（model collapse）。该研究显示，原始内容会在数代内变成不相关的胡言乱语，显示出使用可靠数据训练AI模型的重要性。 生成式AI工具越来越受欢迎，
网络安全宣传周！筑牢网络安全坚实屏障
近日，2022年国家网络安全宣传周拉开帷幕，全国各地举办了系列创意新颖的网络安全宣传活动，再次让网络安全话题成为全社会关注的焦点。泄密溯源技术、大数据反诈系统、量子加密技术……在2022年国家网络安全宣传周网络安全博览会中，诸多网络安全新技术、新应用亮相，各种沉浸式的科普互动也让观众目不暇接。 当
亚马逊云推出AI代理功能，让AI成为助理
Amazon Bedrock的Agents（代理）功能将使公司能够构建可以自动执行特定任务的AI应用程序，例如预订餐厅，而不仅仅是得到去哪里吃饭的建议。 “很多人都如此聚焦于这些模型和模型的大小，但我认为真正重要的是如何利用它们构建应用，这也是今天发布代理（Agents）功能的一个重要原因。”
“AI成龙”遇冷，AI数字人在影视业不灵？
影视业成为“粗制滥造”的标签 近日，影视巨星成龙主演、大量使用了人工智能（AI）数字人技术的电影《传说》登陆大荧幕，却遭遇了票房与口碑的双失利。截至7月20日，豆瓣评分5.3，上映10天累计票房不到8000万元。显然，“AI成龙”遭到了冷遇。“AI成龙”本是《传说》这部电影的卖点。据介绍，为了剧情需
“氏无界·AI无疆”医疗AI成果转化行动启动
原文地址：http://news.sciencenet.cn/htmlnews/2024/1/516109.shtm
大模型让全球“黑客”狂欢！AI安全向何处去？
对网络安全而言，每一次新的信息技术浪潮都蕴含着巨大机会，同时也意味着巨大的挑战。这是因为，新技术必然带来新的安全问题和新的需求，而“黑客”往往能快一步利用新的漏洞并发起攻击，“防守方”则需要更快的响应和改变。大模型技术亦如此。近日，在主题为“安全AI未来”的“C3安全大会·2024”上，亚信安全亚信
生成式AI时代，大模型数据安全如何保障？
在生成式AI（人工智能）时代，数据安全的出路可能会是“用魔法打败魔法”，知识产权保护也可能要提前到token（字符串）层面。4月26日，在2024中关村论坛上，人工智能企业与学者就AI大模型的数据安全问题进行了讨论。中关村论坛数据安全治理与发展论坛现场 澎湃新闻记者 秦盛 摄“在生成式人工智能时代
未来智能社会什么样从AI到AI+
8月26日国发〔2025〕11号颁布了《国务院关于深入实施“人工智能 +”行动的意见》这一重要文件，其中特别强调“人机协同、跨界融合、共创分享的智能经济和智能社会新形态”，其核心就是要积极构建“人、机（ AI）与环境对齐的生态智能体系”，推动人工智能与经济社会各行业各领域广泛深度融合，重塑人类生产生
用AI生成数据训练AI或导致模型崩溃
科技日报北京7月25日电 （记者张梦然）《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野
用AI生成数据训练AI或导致模型崩溃
《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野兔的名字），这凸显出使用可靠数据训练
AI也分级？清华教授推动全球首个AI《分级定义》
AI对话系统发展历程 高凯 摄 28日，由清华大学计算机教授、智能技术与系统实验室副主任黄民烈发起，联合了十余家科研机构、二十多位知名学者共同制定的全球首个《AI对话系统分级定义》(以下简称《分级定义》)正式发布，《分级定义》将推动AI对话系统在虚拟个人助理、智能家居、智能汽车(车载语音)、情
AI－耗电超出预期，未来－AI－进展或依赖能源突破
据 technews 报道，由于 AI 消耗电力将远远超出人们预期，OpenAI 执行长 Sam Altman 认为，未来 AI 发展需要寻求能源突破。Sam Altman在彭博社于达沃斯世界经济论坛（World Economic Forum）期间举行的座谈活动中谈道，对气候友善的能源，特别是核融合
AI答题胜过真人
近日一项发表于《公共科学图书馆-综合》的研究发现94%的使用ChatGPT创建的大学考试答案，不会被检测出是由人工智能（AI）生成的，而且这些答案的得分往往比真实学生的更高。如今，人工智能（AI）技术的兴起和发展，如ChatGPT的诞生，对教育部门提出了一个根本性问题，即学校许多形式的评估，都是在没
AI答题胜过真人
近日一项发表于《公共科学图书馆-综合》的研究发现94%的使用ChatGPT创建的大学考试答案，不会被检测出是由人工智能（AI）生成的，而且这些答案的得分往往比真实学生的更高。如今，人工智能（AI）技术的兴起和发展，如ChatGPT的诞生，对教育部门提出了一个根本性问题，即学校许多形式的评估，都是在没
自主可控方得网络安全
为了保障网络安全，必须实现技术、产品、服务、系统的自主可控，需要在质量测评、安全测评的基础上增加自主可控测评。 网络安全是国家安全的重要基础，也是经济安全、社会安全、民生安全的重要保障。网络安全属于非传统安全，其内涵比传统安全的内涵更加广泛。国家网信办公布的《网络产品和服务安全审查办法（试行）
中国AI论文数量世界居首，美国AI系统遥遥领先
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/497845.shtm当地时间4月3日，由美国斯坦福大学以人为本AI研究院（HAI）发起、学术界联合工业界组成的跨学科小组共同编制的“2023人工智能指数（AI Index）报告”（以下简称“斯坦福 AI
《自然》封面：以AI生成数据训练AI，模型变傻？
大模型有许多“崩”的时候，但有一种崩溃叫做“自毁前程”—— 近日，《自然》发表在封面的一篇论文指出，用AI生成的数据集训练未来几代机器学习模型，可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示，原始内容会在数代内变成不相关的“胡
《自然》封面：以AI生成数据训练AI，模型变傻？
大模型有许多“崩”的时候，但有一种崩溃叫做“自毁前程”——近日，《自然》发表在封面的一篇论文指出，用AI生成的数据集训练未来几代机器学习模型，可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示，原始内容会在数代内变成不相关的“胡言乱语”
txyz.ai初探EAD奥义:－AI释读7600系统新进应用
SCIEX高分辨质谱 ZenoTOF® 7600 系统自2021年发布以来，各种学科的科学家利用其新型的电子活化解离(Electron Activated Dissociation, EAD)技术结合Molecule Profiler和Biologics Explorer等数据处理软件，在生物药、脂
孙海翔：AI助力让胚胎移植更优、更安全
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519074.shtm“随着社会、经济发展不断深化以及国家生育政策的调整，多胎妊娠被视为辅助生殖技术（ART）中最常见和最严重的并发症之一，其带来的围产期孕妇及胎儿、新生儿并发症的高危风险已得到越来越多的关
专家：警惕不道德使用ChatGPT的潜在威胁
作为一款基于文本的问答式机器人（或称聊天机器人），ChatGPT因广泛应用先进的AI技术而备受关注。从准确修复编码错误、生成烹饪食谱、创建3D动画到制作完整的歌曲、撰写小说和学术论文，ChatGPT展现了人工智能（AI）的惊人能量。然而，有专家提出，人们可以利用诸如ChatGPT等AI工具便捷自己的