AI群体舆论操纵技术取得重大进展
重大警示：研究人员在最新发表于《科学》杂志的政策论坛论文中发出严肃警告：一种全新的政治威胁形态正在快速浮现。高度逼真的人工智能虚拟人物可能在不久的将来成为塑造公众舆论和影响民主制度运行的重要力量，其隐蔽性和操作规模远超传统网络舆论操控手段。这项由不列颠哥伦比亚大学计算机科学家领衔开展的研究，系统性地揭示了AI群体可能对当代民主制度构成的深层次挑战。 问题的核心在于大语言模型与多智能体系统的深度融合和快速发展。不列颠哥伦比亚大学计算机科学家Kevin Leyton-Brown博士明确指出，单个操作员就可以轻松管理一个包含数千个AI虚拟人物的庞大网络。这些虚拟角色能够以惊人速度渗透各类数字社区，深度参与多元话题讨论，并对舆论走向施加影响。与早期基于固定脚本的僵尸网络截然不同，这些AI智能体具备即时协同规划能力，能够实时捕捉并响应外部信息反馈，在数千个独立账户之间维持高度一致的叙事逻辑。 深层威胁机制：AI群体最令人不安......阅读全文
AI群体舆论操纵技术取得重大进展
重大警示：研究人员在最新发表于《科学》杂志的政策论坛论文中发出严肃警告：一种全新的政治威胁形态正在快速浮现。高度逼真的人工智能虚拟人物可能在不久的将来成为塑造公众舆论和影响民主制度运行的重要力量，其隐蔽性和操作规模远超传统网络舆论操控手段。这项由不列颠哥伦比亚大学计算机科学家领衔开展的研究，系统性
新型AI芯片将大语言模型能耗减半
美国俄勒冈州立大学科研团队研发出一种新型AI芯片，成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布，是半导体领域的重大突破，有望成为解决大语言模型高能耗问题的“绿色钥匙”。 当前，以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型，因海量参
大模型为深度伪造带来土壤，鉴伪技术需要跨学科合作
·鉴伪技术开发需要跨学科合作，当前的鉴伪技术以软件算法为主，未来将走向软硬一体。大模型兴起为深度伪造带来土壤，业界呼吁跨学科联合攻坚鉴伪技术。在大模型时代，人工智能合成语音与真实语音之间的界限变得越发模糊，提升与之匹配的识别技术迫在眉睫。7月23日，主题为语音深度鉴伪识别的第九届信也科技杯全球人工智
AI语言模型“提速”药物发现
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美国麻省理工学院和塔夫茨大学研究人员设计出一种基于大型语言模型（如ChatGPT）的人工智能算法，这种称为ConPLex的新模型可将目标蛋白与潜在的药物分子相匹配，而无需执行计算分子结
“AI+教育”，复旦推出大语言模型助力新生报到
8月25日，是复旦大学本科生新生报到的日子。来自全国各地和全球40多个国家的4300余名2024级本科新生，开启了在复旦的求学生涯。新生报道现场。为帮助来自世界各地的新同学尽快融入复旦大学，学校基于大语言模型，推出“复旦迎新助手”智能Agent。作为新生的贴心小帮手，大语言模型为新同学在迎新阶段提供
给“深度伪造”这匹“野马”拴上缰绳
利用生成式人工智能（AI）制造的虚假图片、音频和视频信息等“深度伪造”内容正在快速传播，被用来骚扰他人、诈骗金钱，甚至干扰选举。 英国《新科学家》网站近日报道，美国OpenAI公司的文本—视频模型Sora横空出世，让人们能更快捷、更廉价地制作出视频，事实与虚构的分界线也愈加模糊，进一步加剧了人
视频生成器Sora让人喜忧交加
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517690.shtm ?一位时尚女性漫步于充满城市标牌的东京街道上，道路两边霓虹灯闪烁，透出阵阵暖意。Sora可根据这一文本内容生成逼真视频（图为视频截图）。图片来源：Sora/OpenAI继
用AI犯罪的五种方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更高效、更
用AI犯罪的五种方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。 安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更
大模型让全球“黑客”狂欢！AI安全向何处去？
对网络安全而言，每一次新的信息技术浪潮都蕴含着巨大机会，同时也意味着巨大的挑战。这是因为，新技术必然带来新的安全问题和新的需求，而“黑客”往往能快一步利用新的漏洞并发起攻击，“防守方”则需要更快的响应和改变。大模型技术亦如此。近日，在主题为“安全AI未来”的“C3安全大会·2024”上，亚信安全亚信
压缩算法为大语言模型“瘦身”
据美国科学促进会旗下网站19日报道，美国普林斯顿大学和斯坦福大学团队开发出一种新压缩算法CALDERA，能精简大型语言模型（LLM）的海量数据，为LLM“瘦身”。这项算法不仅有助保护数据隐私、节约能源、降低成本，还能推动LLM在手机和笔记本电脑上高效使用。团队举例称，当人们使用ChatGPT时，请求
生成式AI时代，大模型数据安全如何保障？
在生成式AI（人工智能）时代，数据安全的出路可能会是“用魔法打败魔法”，知识产权保护也可能要提前到token（字符串）层面。4月26日，在2024中关村论坛上，人工智能企业与学者就AI大模型的数据安全问题进行了讨论。中关村论坛数据安全治理与发展论坛现场 澎湃新闻记者 秦盛 摄“在生成式人工智能时代
警惕生成式AI推动虚假信息运动
生成式人工智能（AI）横空出世，可能给人类带来巨大的影响。美国高盛集团今年早些时候警告称，超过3亿个全职工作岗位可能会受到波及。美国国会研究服务局5月发布的一份报告指出，AI的最新创新也提出了新的版权问题，即如何界定AI创建或使用的内容属于侵权还是合理使用等。美国《福布斯》网站在6月9日的报道中指出
8个小技巧“用好”大语言模型
用大语言模型，还需要技巧？在人们的印象中，这是个极其简单的操作：只需输入一个问题，立刻就能得到回答。但实际上，如何有效地与这些人工智能模型互动，发挥出它们的最大潜力，却是一个经常被忽视的话题。中国科学技术大学心理学系特任研究员林志成关注到这一话题，并在他最近的评论文章中提供了一系列的策略和指导，希望
院士带货竟是AI伪造！新技术如何才能用在正道上？
快速进化的AI生成技术，让生成假照片、假图像，甚至视频换脸都更加容易，且真假难辨。尤其是AI合成的假视频甚至冒充名医、名人进行虚假宣传，对公众实施诈骗。中国工程院院士、天津中医药大学名誉校长张伯礼也是受害者之一。 院士带货 竟是AI伪造 不久前，网络中出现了这样一个视频，视频中张伯礼院士正在
深度伪造X光片以假乱真：资深放射科医生也分不清的AI陷阱
连最专业的眼睛也难以分辨三月二十四日发表在北美放射学会旗舰期刊《放射学》上的一项研究揭示了一个令人不安的发现：人工智能生成的深度伪造X光图像已经逼真到足以欺骗经验最丰富的放射科医生，即便他们明确知道测试中可能包含合成图像。所谓深度伪造是指利用人工智能技术创建或篡改的视频、照片、图像或音频文件，虽然看
AI大模型“拿捏”电池寿命
作为现代生活中不可或缺的能源载体，电池的重要性不言而喻。从清晨唤醒我们的闹钟，到随身携带的手机、平板电脑等智能设备，无一不依赖于电池提供的稳定电力。此外，随着科技的发展，电动汽车、无人机等新兴领域也广泛应用了各类高性能电池，推动了绿色出行和智能科技的进步。因此，电池不仅极大地便利了我们的日常生活，还
AI论文数量激增但质量下滑：大语言模型重塑科研生态的双刃剑
ChatGPT之后的科研出版变局二〇二二年底ChatGPT对公众和学术界全面开放之后，世界各地的研究者在日常交流中开始频繁告诉同事自己能用这些新的人工智能工具完成更多学术工作；几乎在同一时间，各大科技期刊的编辑们开始报告一个前所未见的现象——语言表达极其流畅自然而科学实质内容似乎并未显著增加的投稿数
深度思维AI模型表现超越现有天气预报
新一期《自然》杂志发表的一项研究报道了深度思维推出的最新机器学习模型。该模型能根据当前和未来天气进行可靠的概率天气预报，其表现不但超过了最好的传统中程天气预报，还能更好地预测极端天气、热带气旋路线和风能产量。GenCast相关预报的可视化。图片来源：《自然》网站准确的天气预报对于个人、政府和组织的日
当心陷入深度伪造语音陷阱
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/505961.shtm
9秒骗走245万！魔高一尺道高一丈，AI诈骗如何防？
AI(人工智能)一键换脸、AI克隆声音、AI钓鱼邮件。。。。。。近日两起诈骗金额上百万元的案件引起人们关注。AI技术快速发展，挑战也逐渐显现。 AI让诈骗门槛大幅降低 近日，内蒙古包头警方通报一起利用AI实施诈骗的案件。在该案件中，福州市某公司法人代表郭先生10分钟内被骗430万元。据通报，
释放AI大模型促消费潜力
今年的《政府工作报告》提出持续推进“人工智能+”行动，旨在抓住人工智能技术突破机遇，使我国数字技术与制造优势、市场规模优势充分结合，推动人工智能大模型广泛应用，真正赋能千行百业、走进千家万户。在构建新发展格局战略背景下，AI大模型在激活内需市场、促进消费升级等方面充满“模”力。 随着人工智能技
数据“中毒”会让AI“自己学坏”
在一个繁忙的火车站，监控摄像头正全方位追踪站台的情况，乘客流量、轨道占用、卫生状况……所有信息实时传输给中央人工智能（AI）系统。这个系统的任务是帮助调度列车，让它们安全准点进站。然而，一旦有人恶意干扰，比如用一束红色激光模拟列车尾灯，那么摄像头可能会误以为轨道上已有列车。久而久之，AI学会了把
新引擎实现大语言模型推理速度显著提升
原文地址：http://news.sciencenet.cn/htmlnews/2023/11/511841.shtm
大模型安全治理：国际合作共筑AI发展新框架
“当前，人工智能技术以惊人的速度发展，如近期DeepSeek引领了低成本开发使用大模型的革新，这既为驱动新的创新提供了更多可能，也带来了诸多风险挑战，而在互联互通时代，加强国际合作至关重要。”2月11日，在“人工智能技术及其应用进展”专题边会上，清华大学交叉信息研究院、人工智能学院院长姚期智提到
中科睿鉴成果获世界互联网大会领先科技成果奖
11月9日，2022年世界互联网领先科技成果发布活动在浙江乌镇举办，现场评选出15项具有国际代表性的年度领先科技成果。中科睿鉴成果“睿鉴数字内容虚假伪造检测系统和设备”从近300个参评项目中脱颖而出，获世界互联网领先科技成果奖。 荀子曰：“流言止于智者。”与虚假伪造信息的斗争，自古至今从未停止。
厦大尝试AI大模型破译甲骨文
近日，厦门大学信息学院自然语言处理实验室教授史晓东团队申报的“基于甲骨文多模态大模型的多元信息甲骨文辅助考释模型”入选“探元计划2024”“创新探索型项目”TOP10榜单。基于甲骨文多模态大模型的多元信息甲骨文辅助考释模型。厦门大学供图甲骨文也被称作“殷墟文字”，距今已有三千多年历史，是世界四大古文
给“深度伪造”这匹“野马”拴上缰绳
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/518071.shtm
华为发布大模型时代AI存储新品
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504751.shtm
AI大模型“源”炼造客服大脑
2018年至今，NLP领域经历了非常大的变化，Transformer、ELMO、BERT、GPT-3，再到最近的ChatGPT（GPT 3.5的微调）的突破，NLP在预训练大模型的暴力拆解路上越走越远，这也让各行业开始相信：很多之前无法做到的场景、效果，现在可以有新的解法和落地。 智能客服，是