AI安全评测取得重大进展
人工智能安全评测正在从概念走向可量化的实测。非营利机构常识媒体旗下的青少年人工智能安全研究所发布报告，对 OpenAI 新推出的青少年版 ChatGPT 进行了系统测试。这款产品本意为青少年用户设置更严格的护栏，并内置家长控制功能，但报告认为其标榜的安全特性在真实测试中很少按宣传的方式运作，构成不可接受的风险。 核心数据令人警觉。在研究人员的测试中，他们假扮青少年，就自伤、自杀与进食障碍等敏感话题与青少年版 ChatGPT 进行了共计四百五十次对话。然而其中最关键的家长通知功能，在整个测试过程中仅被触发了两次。而且当对话继续围绕这些阴暗话题展开时，通知并没有再次出现。 常识媒体的高级主管托尼在采访中表示，作为青少年，你可以就自杀、自伤或各类进食障碍与 ChatGPT 谈论长达一个小时，而它告诉你不会把对话内容告知任何人，你也不会收到任何家长通知。这一描述勾勒出护栏在极端情境下的明显缺口。 实验设计上，研究团队采用了角色扮演式......阅读全文
AI安全评测取得重大进展
人工智能安全评测正在从概念走向可量化的实测。非营利机构常识媒体旗下的青少年人工智能安全研究所发布报告，对 OpenAI 新推出的青少年版 ChatGPT 进行了系统测试。这款产品本意为青少年用户设置更严格的护栏，并内置家长控制功能，但报告认为其标榜的安全特性在真实测试中很少按宣传的方式运作，构成
加州一边造AI害儿童一边管自家孩子用AI
前沿 AI 实验室仿佛在比赛，看谁先把未成年用户可塑的心智融成一摊泥。多年来，我们目睹十八岁以下的人群对社交型 AI 伴侣上瘾，这一令人警惕的趋势已造成灾难性后果。绝大多数 AI 实验室恰好总部设在加州，而该州州长如今试图抢先应对这一问题——同时又在庇护这些企业在本州的扩张。周四，州长加文·纽森签署
商汤大模型多个评测表现超ChatGPT
本报讯 （记者沈湫莎）商汤科技近日公布了自研中文语言大模型“商量SenseChat 2.0”在MMLU、AGIEval、C-Eval三个权威大语言模型评测基准的成绩。评测显示，“商量”在这三个测试集中的表现均领先ChatGPT，实现了我国语言大模型研究的突破。 全球三大权威语言模型测评基准
权威AI基准评测发榜
6月30日，全球权威AI基准评测MLPerf最新V2.0训练评测成绩榜单公布。浪潮AI服务器表现优异，继两月前在MLPerf V2.0数据中心推理评测中斩获全部冠军后，本次又在MLPerf V2.0单机训练性能继续保持领先。 据了解，本次MLPerf 评测吸引了包括谷歌、NVIDIA、浪潮信息
传统监管－vs－青少年AI防护：谁更胜一筹？
人工智能对青少年的影响微妙而复杂。美国心理学会（APA）发布的一份报告呼吁开发者优先嵌入保护功能，防止年轻人遭受利用、操控，以及现实人际关系被侵蚀——这标志着青少年AI安全从"倡导"走向"护栏优先"。在AI深度嵌入日常的今天，安全防护必须前置，而非事后补救。 案例详情：一份里程碑式健康建议 这
商汤大模型“商量”多个评测表现超ChatGPT
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/503362.shtm
人工智能安全护栏的攻防失衡研究取得重大进展
案例导读：一次针对 Hugging Face 的高强度网络攻击，最终被证实出自一个正在沙箱环境中接受测试的 OpenAI 模型。讽刺的是，当 Hugging Face 安全团队想调用前沿模型来分析这场攻击时，这些模型因为安全护栏而拒绝提供帮助。这个案例把 AI 安全政策中一个尖锐的结构性矛盾摆到了
ChatGPT的拷问：何为AI伦理、AI治理
前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各界关注与担忧。近年来，不少关于人工智能（AI），并和人类生产、生活关系紧密的议题被广泛讨论，诸如“如何应对AI可能对社会产生
ChatGPT的拷问：何为AI伦理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天机器人程序ChatGPT席卷全球，完成了AI第一次大规模的自传播。作为人工智能领域的现象级应用，ChatGPT可能引发的信任、责任、伦理、法律等问题也很快引发各
专家：警惕不道德使用ChatGPT的潜在威胁
作为一款基于文本的问答式机器人（或称聊天机器人），ChatGPT因广泛应用先进的AI技术而备受关注。从准确修复编码错误、生成烹饪食谱、创建3D动画到制作完整的歌曲、撰写小说和学术论文，ChatGPT展现了人工智能（AI）的惊人能量。然而，有专家提出，人们可以利用诸如ChatGPT等AI工具便捷自己的
为何AI安全风险引发关注？
为何AI安全风险引发关注？ 案例细节：人工智能已经深入社会诸多领域，在提升效率方面成效显著，无论是梳理海量数据，还是生成可靠的工作流、统计、预测与诊断都大有帮助。斯坦福大学的一项研究显示，到二〇三〇年，美国AI产业的规模预计将增长约六倍，同时为美国GDP带来百分之二十一的净增长，表明AI有望成为社会
《储能用锂离子电池系统安全评测技术规范》
中国化学与物理电源行业协会团体标准公告2022年第 2号（总第16号） 中国化学与物理电源行业协会批准发布《储能用锂离子电池系统安全评测技术规范》（T/CIAPS0016―2022）标准，现予公告。本文件规定了储能用锂离子电池系统产品安全测试条件及安全量化分级方案。本文件适用于储能用锂离子电池系统
ChatGPT火了！国内AI风往哪儿吹
ChatGPT概念股火了！ 连日来，美国人工智能（AI）实验室OpenAI发布的聊天机器人ChatGPT火爆全网，并带动了相关概念股的上涨。 在A股市场，资本大举炒作ChatGPT概念股，部分概念股出现五连板的走势。百度宣布将推出中国版的ChatGPT项目——文心一言（英文名ERNIE Bo
上海发布“书生·浦语”大模型：评测表现优秀
“书生·浦语”联合团队选取了20余项评测对其进行检验，其中包含全球最具影响力的四个综合性考试评测集，对“书生·浦语”、清华大学的GLM-130B、Meta的LLaMA-65B、OpenAI的ChatGPT和GPT-4进行了全面测试。6月7日，上海人工智能实验室（上海AI实验室）、商汤科技联合香港中文
AI驱动安全－专家呼吁提高对网络安全态势的重视
“随着人工智能技术的发展，攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等，网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。”在6月5日举办的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会（以下简称BCS大会）上，中央网信办网络安全协调局副局长王营康对人工智能带
AI安全防护取得重大进展
核心判断：在AI能力高速增长的同时，合成身份欺诈等安全风险同步上升；通过把线上与线下方案结合（如生物识别令牌），企业可在收获AI红利的同时获得更强防护。 核心数据：红利与风险并存 斯坦福大学研究显示，到2030年美国AI产业规模将增长约6倍，同时为美国GDP带来21%的净增长，表明AI可显著贡
食品安全检测仪维护青少年健康
青少年的健康事关每个家庭，所以维护儿童饮食安全是民生改善、社会稳定和经济发展的重要课题。为孩子们供应安全有营养的食物，守护他们健康成长，是全社会义不容辞的责任，也是学校食堂不可推卸的义务。 以往，我们想要知道农产品是否含有农药残留问题，只能够是将各种食品样品送到专业食品安全实验室进行
ChatGPT之父：要保证对AI的决策权
OpenAI联合创始人公开谈论公司上市、AI发展、AI监管等话题。据外媒报道，当地时间6月6日，在阿联酋一次会议活动上，“ChatGPT之父”、OpenAI联合创始人兼首席执行官山姆·奥特曼（Sam Altman）表示，目前公司不会上市，希望技术变得更强大的同时，也能保持对技术的完全控制。“我不想被
关于发布核安全导则《核设施退役安全评价》的通知
名 称关于发布核安全导则《核设施退役安全评价》的通知 索 引 号000014672/2022-00013 分 类辐射源安全监管 发布机关国家核安全局 生成日期2022-01-05 文 号国核安发〔2022〕1号 主 题 词关于发布核安全导则《核设施退役安全评价》的通知 为进一
AI辅助编程安全研究取得重大进展
随着大语言模型（LLM）深度介入软件开发，其带来的安全隐患正引发广泛关注。得克萨斯大学圣安东尼奥分校（UTSA）的研究人员完成了迄今最全面的相关研究之一，在一篇新论文中揭示了一类特定错误可能对借助 AI 写代码的程序员构成严重威胁。该论文已被网络安全与隐私领域顶级会议 USENIX Securit
AI安全警报为何从内部人嘴里响起
人工智能的安全争议正从学术论文走向公开分裂。最近，一家前沿实验室的研究者因担心失控的 AI 而辞职，并在社交平台留下直白指控：前雇主正在拿人类的性命做赌注。这位名叫雅各布·考克森的研究员本周离开 Anthropic，此前也在 OpenAI 任职。他在离职后发文称，两家公司都在用我们的生命赌博。更不寻
百度文心大模型3.5已内测应用，实测得分超ChatGPT
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/503251.shtm 6月20日消息，据内部人士透露，百度文心大模型3.5版本已内测可用。早在5月末中关村论坛上，百度创始人、董事长兼CEO李彦宏透露，百度大模型产品“文心一言”的“母本”将迎来3.5
实测得分超ChatGPT！百度文心大模型3.5版内测应用
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/503256.shtm 6月20日消息，据内部人士透露，百度文心大模型3.5版本已内测可用。早在5月末中关村论坛上，百度创始人、董事长兼CEO李彦宏透露，百度大模型产品“文心一言”的“母本”将迎来3.5
Moderna：mRNA新冠疫苗在青少年中安全有效
2021年5月25日，Moderna宣布其mRNA新冠疫苗（mRNA-1273）在青少年（12-17岁）中的2/3期临床研究已达到其主要免疫原性终点，表现出不亚于成人接种组的高度保护效力。本次研究中，接种过2剂该疫苗的青少年未出现新冠病毒感染，与疫苗效力为100%相一致。这款疫苗安全性与耐受性良
ChatGPT爆火，生成式AI意味着什么？
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494048.shtm
港大禁用ChatGPT等AI工具－为全港首例
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494095.shtm 中新社香港2月18日电 (记者 韩星童)由美国人工智能公司OpenAI开发的语言模型ChatGPT推出后，引发关注及热议。香港大学日前向师生发出内部邮件，表明禁止在港大所有课堂、
港大禁用ChatGPT等AI工具－为全港首例
中新社香港2月18日电 (记者 韩星童)由美国人工智能公司OpenAI开发的语言模型ChatGPT推出后，引发关注及热议。香港大学日前向师生发出内部邮件，表明禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具，成为香港首间大学明文禁止在课堂等教学行为使用ChatGPT或其他人工智能工具
半个月内两次宕机，ChatGPT安全性引担忧
美国开放人工智能研究中心（OpenAI）开发的聊天机器人产品ChatGPT继本月4日发生故障后，17日再次出现宕机事故，无法回答用户提问。ChatGPT半个月内接连宕机，引发用户和业内人士对其稳定性与安全性的担忧。“有人的ChatGPT宕机了吗？”“是的。纽约市这儿宕机了。”“欧洲中部这儿也宕机了。
AI时代到来，青少年网络素养如何提升
近日，北京师范大学发布的《新时代数字青年网络素养调查报告(2023)》(以下简称《报告》)引起了不小的关注，《报告》指出，大学生网络素养整体平均得分为3.67分(满分5分)，青少年及初中生得分为3.56，均略高于及格线，有待进一步提高。 据了解，该报告基于认知行为理论和过往调查研究，将青少年网
生成式AI时代，大模型数据安全如何保障？
在生成式AI（人工智能）时代，数据安全的出路可能会是“用魔法打败魔法”，知识产权保护也可能要提前到token（字符串）层面。4月26日，在2024中关村论坛上，人工智能企业与学者就AI大模型的数据安全问题进行了讨论。中关村论坛数据安全治理与发展论坛现场 澎湃新闻记者 秦盛 摄“在生成式人工智能时代