大模型基础设施如何建?首先要搭万卡规模的网络架构
“生成式AI是一个跨越式的技术,和原来的技术有了非常大的变革,可以说是划时代的技术。它最大的特点就是模型大,过去几年以每年10倍参数量的速度在增长。之前AI应用里,很多训练的任务都是单卡或单机就能完成,但在大模型时代,需要千卡、万卡来完成一个任务。”5月23日,百度杰出系统架构师王雁鹏在深圳举行的文心大模型技术交流会上说道。在王雁鹏看来,在这样的算力要求下,智算基础设施的设计范式演进已经发生转变。要构建这样万卡规模的大模型基础设施,核心需要关注的有四点:第一,需要构建智算集群,能够支持万卡级别的高速互联,并且支持各种异构算力,包括CPU(中央处理器)、GPU(图形处理器)等算力的高速互联。第二,光有硬件能力还很难有好的效果,比如要发挥一张GPU或AI芯片的性能,非常难,所以要把软件栈优化好,这最终会体现在训练和推理的性能加速优化上。第三是高性价比,构建这样一个系统需要有更合理的技术选择,最贵的东西也不能满足全部需求,做存储分层、......阅读全文
生成式AI进军基因编辑领域
OpenCRISPR-1的物理结构,这是一种由Profluent的AI技术创建的基因编辑器。图片来源:singularityhub.com制图、写歌、作诗、编程、生成视频……生成式人工智能(AI)技术与各行业的结合不断为人们带来惊喜,在各领域掀起革新浪潮。现在,AI的应用场景再次拓展:美国AI蛋白质
生成式AI带来的新思考
过去几个月,ChatGPT为人工智能技术按下加速键。这个聊天程序证明了超大参数模型和通用型人工智能的可行性,谷歌、亚马逊等巨头纷纷推出自主研发的相关平台,国内也已有十数家企业在该领域有所布局。 它们被统称为“生成式人工智能”。简单来说,这种AI可以通过算法生成新内容,包括图像、文字、音乐,甚至视频
生成式AI引发治理新思考
原文地址:http://news.sciencenet.cn/htmlnews/2023/4/499199.shtm
生成式AI投融资热潮席卷全球
最近,由微软投资的开放人工智能研究中心(OpenAI)开发的聊天机器人ChatGPT引发广泛关注,它能够利用大型语言模型技术,快速生成精雕细琢的文本,如散文或诗歌等。一石激起千层浪。包括谷歌、元宇宙、亚马逊公司等在内的科技巨头纷纷开始推出或开发自己的聊天机器人,并投资相关初创企业,针对生成式AI的投
警惕生成式AI推动虚假信息运动
生成式人工智能(AI)横空出世,可能给人类带来巨大的影响。美国高盛集团今年早些时候警告称,超过3亿个全职工作岗位可能会受到波及。美国国会研究服务局5月发布的一份报告指出,AI的最新创新也提出了新的版权问题,即如何界定AI创建或使用的内容属于侵权还是合理使用等。美国《福布斯》网站在6月9日的报道中指出
中外青年热议生成式AI的局限
近日,国家网信办发布了《生成式人工智能(AI)服务管理办法(征求意见稿)》,针对面向中国境内公众提供服务的生成式人工智能产品,包括其研发及服务,向社会公开征求管理意见。生成式AI正是当前以ChatGPT等智能聊天机器人为代表的技术。自去年11月ChatGPT发布以来,其展示的与人类高度相似的对话能力
国内首家近视儿童AI生成式病历问世
暑期就诊高峰期,病历撰写占用大量医生资源,导致诊疗效率下降、患者体验受损问题,如何应对?复旦大学附属眼耳鼻喉科医院率先推出了一个解决方案——人工智能(AI)生成式病历系统。该系统深度整合了眼视光学知识体系与AI技术,建立了眼视光专业术语库,通过训练模型,对海量病历数据、眼视光学学科文献以及病种知识体
中外青年热议生成式AI的局限
近日,国家网信办发布了《生成式人工智能(AI)服务管理办法(征求意见稿)》,针对面向中国境内公众提供服务的生成式人工智能产品,包括其研发及服务,向社会公开征求管理意见。 生成式AI正是当前以ChatGPT等智能聊天机器人为代表的技术。自去年11月ChatGPT发布以来,其展示的与人类高度相似的
生成式AI实现护肤品虚拟试用
位于爱沙尼亚塔林市的Haut.AI是一家专门为皮肤、头发和健康进行人工智能(AI)分析的公司。据美国科学促进会Eurekalert网站19日消息,该公司刚刚发布的用于建模皮肤状况的新生成式AI技术——SkinGPT,允许用户上传他们的照片,并应用AI来模拟其皮肤在使用护肤品时如何随时间变化。Sk
用AI识别AI:西湖大学研究可检测AI生成文本
虚假新闻、恶意产品评论、剽窃……ChatGPT、 GPT-4等AI大语言模型的应用带来便利,但其误用也带来一系列问题。西湖大学工学院张岳教授的“文本智能实验室”日前发布的一项研究提出一种高准确率、高速、低成本、通用的新文本检测方法——Fast-DetectGPT,无需训练即可识别各种AI大语言模型生
“帮手”还是“帮凶”?生成式AI学术使用须关注
生成式人工智能(AI)工具快速普及,在学术写作领域呈现爆炸式应用势头。使用基于大语言模型(LLM)的生成式AI工具能节省时间,减少语言障碍,让论文更加明白通畅。但这些工具的应用也让剽窃问题变得更复杂。英国《自然》网站在近日的报道中指出,对利用AI写作是否构成剽窃,以及在什么情况下允许利用AI进行写作
生成式AI时代,大模型数据安全如何保障?
在生成式AI(人工智能)时代,数据安全的出路可能会是“用魔法打败魔法”,知识产权保护也可能要提前到token(字符串)层面。4月26日,在2024中关村论坛上,人工智能企业与学者就AI大模型的数据安全问题进行了讨论。中关村论坛数据安全治理与发展论坛现场 澎湃新闻记者 秦盛 摄“在生成式人工智能时代
生成式AI赋能脑网络构建新范式
近日,中国科学院深圳先进技术研究院数字所王书强课题组在《IEEE模式分析与机器智能汇刊》发表研究成果,实现了基于生成式AI优化模型的End-to-End脑网络构建。生成式AI通过从数据中自动学习提取隐藏的模式和规律,在模拟复杂自然过程、分析和预测科学数据等方面表现出巨大潜力。相较于传统方法,生成式A
生成式AI下一站:文本转视频
原文地址:http://news.sciencenet.cn/htmlnews/2023/4/498451.shtm 聊天机器人ChatGPT的爆红,让生成式人工智能(AI)成为科技领域的“当红炸子鸡”。除了如今“霸屏”的类似ChatGPT的语言模型之外,生成式AI领域还有大量其他技术:文本生成
ChatGPT爆火,生成式AI意味着什么?
原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494048.shtm
生成式AI设计出非天然蛋白质
加拿大多伦多大学研究人员开发了一种人工智能系统,可以使用生成扩散来创建自然界中不存在的蛋白质。该系统有望使治疗蛋白的设计和测试更加高效和灵活,从而加速人类药物开发。研究发表在最新一期《自然·计算科学》杂志上。 蛋白质由氨基酸链组成,氨基酸链折叠成的三维形状反过来又决定了蛋白质的功能。这些折叠的
“帮手”还是“帮凶”?生成式AI学术使用须关注
图片来源:《自然》网站生成式人工智能(AI)工具快速普及,在学术写作领域呈现爆炸式应用势头。使用基于大语言模型(LLM)的生成式AI工具能节省时间,减少语言障碍,让论文更加明白通畅。但这些工具的应用也让剽窃问题变得更复杂。英国《自然》网站在近日的报道中指出,对利用AI写作是否构成剽窃,以及在什么情况
用AI生成数据训练AI或导致模型崩溃
科技日报北京7月25日电 (记者张梦然)《自然》24日正式发表的一篇研究论文指出了一个人工智能(AI)严重问题:用AI生成的数据集训练未来几代机器学习模型,可能会严重“污染”它们的输出,这被称为“模型崩溃”。研究显示,原始内容会在9次迭代以后,变成不相关的“胡言乱语”(演示中一个建筑文本最终变成了野
用AI生成数据训练AI或导致模型崩溃
《自然》24日正式发表的一篇研究论文指出了一个人工智能(AI)严重问题:用AI生成的数据集训练未来几代机器学习模型,可能会严重“污染”它们的输出,这被称为“模型崩溃”。研究显示,原始内容会在9次迭代以后,变成不相关的“胡言乱语”(演示中一个建筑文本最终变成了野兔的名字),这凸显出使用可靠数据训练
生成式AI可训练机器人执行多种任务
铲子,刀子,锤子,扳手3个不同的数据集:模拟(上)、机器人远程操作(中)和人类演示(下)让机器人能学习使用不同的工具。图片来源:麻省理工学院科技日报北京6月23日电 (记者张梦然)据美国麻省理工学院官网近日报道,该机构研究人员为了训练更先进的多用途机器人,开发出一种技术:使用一种称为扩散模型的生成式
《自然》封面:以AI生成数据训练AI,模型变傻?
大模型有许多“崩”的时候,但有一种崩溃叫做“自毁前程”——近日,《自然》发表在封面的一篇论文指出,用AI生成的数据集训练未来几代机器学习模型,可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示,原始内容会在数代内变成不相关的“胡言乱语”
《自然》封面:以AI生成数据训练AI,模型变傻?
大模型有许多“崩”的时候,但有一种崩溃叫做“自毁前程”—— 近日,《自然》发表在封面的一篇论文指出,用AI生成的数据集训练未来几代机器学习模型,可能会“污染”它们的输出。这项由英国牛津大学、剑桥大学、帝国理工学院、加拿大多伦多大学等多所高校联合开展的研究显示,原始内容会在数代内变成不相关的“胡
高盛:生成式AI或将推动全球GDP增长7%
高盛研究部最近发布的一份研究报告指出,生成式人工智能技术的发展将给全球经济带来巨大变化。随着以自然语言处理为核心技术的先进生产力工具被企业和社会采用,高盛预计未来10年,全球年均GDP有望增长7 (约合近7万亿美元)。据高盛研究部经济学家Joseph Briggs和Devesh Kodnani在报告
AI视频生成模型Sora来了
原文地址:http://news.sciencenet.cn/htmlnews/2024/2/517625.shtm
亚马逊云科技提出全面发力生成式AI的中国行动
12月12日,亚马逊云科技2023 re:Invent中国行城市巡展活动在北京开启。活动上,亚马逊云科技宣贯了其全面发力生成式人工智能(AIGC)战略的中国行动,称将推出面向企业级生成式AI的一系列新服务及功能,并提供生成式AI各类数据及数据计算能力支持,包括其新一代自研芯片Amazon Gra
扎克伯格:生成式AI将触及Meta所有产品
社交媒体巨头Meta公司当地时间4月26日公布今年第一季度财报,显示其销售额在近一年内首次增长。Meta首席执行官马克·扎克伯格告诉投资者,该公司看到了“将人工智能代理以有用和有意义的方式带给数十亿人的机会”,但并没有放弃元宇宙。财报显示,该公司第一季度的收入为286亿美元,比去年同期增长3%,高于
英伟达推出生成式AI药物发现平台开启新布局
人工智能计算领导者英伟达(NVIDIA)在过去的一年里接连投资几家AI药物开发公司,其在药物开发领域的雄心壮志正在成为全世界的焦点。 日前,英伟达宣布了三项新举措,其中包括与安进(Amgen)子公司deCode进行新的合作。英伟达表示,deCode将利用英伟达的超级计算机和BioNeMo生成式人工智
AI生成超越自然界的蛋白?
美国研究人员使用人工智能(AI)来设计超越自然界的新蛋白质。他们开发的机器学习算法,可生成具有特定结构特征的蛋白质,这些蛋白质可用于制造具有特定机械性能(如刚度或弹性)的材料,从而取代作为原料的石油或陶瓷。研究论文发表在最新一期《化学》杂志上。 麻省理工学院、IBM沃森AI实验室和塔夫茨大学研究人
“生成式AI产教融合创新高峰论坛”举行
原文地址:http://news.sciencenet.cn/htmlnews/2023/5/501006.shtm5月17日,第七届世界智能大会“生成式AI产教融合创新高峰论坛”在南开大学举行,有关专家学者、企业、高校、科研院所等方面代表120余人参加论坛活动。据了解,生成式AI是当前发展较快、非
Gartner-报告:约26%中国用户已着手于生成式AI
根据市场调查机构 Gartner 研究总监孙鑫风险的报告,显示约 26% 中国用户已着手对生成式 AI 技术的部署。该调查结果还显示,在中国有 6% 的用户已经成功部署了与生成式 AI 相关的技术,有 26% 的用户正在积极试点生成式 AI 技术,另有 24% 左右的中国用户表示将在未来 0-6 个