大模型基础设施如何建?首先要搭万卡规模的网络架构

“生成式AI是一个跨越式的技术,和原来的技术有了非常大的变革,可以说是划时代的技术。它最大的特点就是模型大,过去几年以每年10倍参数量的速度在增长。之前AI应用里,很多训练的任务都是单卡或单机就能完成,但在大模型时代,需要千卡、万卡来完成一个任务。”5月23日,百度杰出系统架构师王雁鹏在深圳举行的文心大模型技术交流会上说道。在王雁鹏看来,在这样的算力要求下,智算基础设施的设计范式演进已经发生转变。要构建这样万卡规模的大模型基础设施,核心需要关注的有四点:第一,需要构建智算集群,能够支持万卡级别的高速互联,并且支持各种异构算力,包括CPU(中央处理器)、GPU(图形处理器)等算力的高速互联。第二,光有硬件能力还很难有好的效果,比如要发挥一张GPU或AI芯片的性能,非常难,所以要把软件栈优化好,这最终会体现在训练和推理的性能加速优化上。第三是高性价比,构建这样一个系统需要有更合理的技术选择,最贵的东西也不能满足全部需求,做存储分层、......阅读全文

生成式AI引发治理新思考

原文地址:http://news.sciencenet.cn/htmlnews/2023/4/499199.shtm

生成式AI带来的新思考

过去几个月,ChatGPT为人工智能技术按下加速键。这个聊天程序证明了超大参数模型和通用型人工智能的可行性,谷歌、亚马逊等巨头纷纷推出自主研发的相关平台,国内也已有十数家企业在该领域有所布局。  它们被统称为“生成式人工智能”。简单来说,这种AI可以通过算法生成新内容,包括图像、文字、音乐,甚至视频

生成式AI投融资热潮席卷全球

最近,由微软投资的开放人工智能研究中心(OpenAI)开发的聊天机器人ChatGPT引发广泛关注,它能够利用大型语言模型技术,快速生成精雕细琢的文本,如散文或诗歌等。一石激起千层浪。包括谷歌、元宇宙、亚马逊公司等在内的科技巨头纷纷开始推出或开发自己的聊天机器人,并投资相关初创企业,针对生成式AI的投

警惕生成式AI推动虚假信息运动

生成式人工智能(AI)横空出世,可能给人类带来巨大的影响。美国高盛集团今年早些时候警告称,超过3亿个全职工作岗位可能会受到波及。美国国会研究服务局5月发布的一份报告指出,AI的最新创新也提出了新的版权问题,即如何界定AI创建或使用的内容属于侵权还是合理使用等。美国《福布斯》网站在6月9日的报道中指出

中外青年热议生成式AI的局限

近日,国家网信办发布了《生成式人工智能(AI)服务管理办法(征求意见稿)》,针对面向中国境内公众提供服务的生成式人工智能产品,包括其研发及服务,向社会公开征求管理意见。生成式AI正是当前以ChatGPT等智能聊天机器人为代表的技术。自去年11月ChatGPT发布以来,其展示的与人类高度相似的对话能力

中外青年热议生成式AI的局限

  近日,国家网信办发布了《生成式人工智能(AI)服务管理办法(征求意见稿)》,针对面向中国境内公众提供服务的生成式人工智能产品,包括其研发及服务,向社会公开征求管理意见。  生成式AI正是当前以ChatGPT等智能聊天机器人为代表的技术。自去年11月ChatGPT发布以来,其展示的与人类高度相似的

生成式AI实现护肤品虚拟试用

  位于爱沙尼亚塔林市的Haut.AI是一家专门为皮肤、头发和健康进行人工智能(AI)分析的公司。据美国科学促进会Eurekalert网站19日消息,该公司刚刚发布的用于建模皮肤状况的新生成式AI技术——SkinGPT,允许用户上传他们的照片,并应用AI来模拟其皮肤在使用护肤品时如何随时间变化。Sk

美AI学者马库斯:若生成式AI是哑弹怎么办?

原文地址:http://news.sciencenet.cn/htmlnews/2023/8/506525.shtm 【编者按】当地时间8月13日,一向喜欢给ChatGPT泼冷水的美国知名AI学者加里·马库斯(Gary Marcus)发表文章,标题为《如果生成式AI被证明是个哑弹怎么办?》。在文

ChatGPT爆火,生成式AI意味着什么?

原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494048.shtm

生成式AI设计出非天然蛋白质

  加拿大多伦多大学研究人员开发了一种人工智能系统,可以使用生成扩散来创建自然界中不存在的蛋白质。该系统有望使治疗蛋白的设计和测试更加高效和灵活,从而加速人类药物开发。研究发表在最新一期《自然·计算科学》杂志上。  蛋白质由氨基酸链组成,氨基酸链折叠成的三维形状反过来又决定了蛋白质的功能。这些折叠的

生成式AI下一站:文本转视频

原文地址:http://news.sciencenet.cn/htmlnews/2023/4/498451.shtm 聊天机器人ChatGPT的爆红,让生成式人工智能(AI)成为科技领域的“当红炸子鸡”。除了如今“霸屏”的类似ChatGPT的语言模型之外,生成式AI领域还有大量其他技术:文本生成

AI视频生成模型Sora来了

原文地址:http://news.sciencenet.cn/htmlnews/2024/2/517625.shtm

高盛:生成式AI或将推动全球GDP增长7%

高盛研究部最近发布的一份研究报告指出,生成式人工智能技术的发展将给全球经济带来巨大变化。随着以自然语言处理为核心技术的先进生产力工具被企业和社会采用,高盛预计未来10年,全球年均GDP有望增长7 (约合近7万亿美元)。据高盛研究部经济学家Joseph Briggs和Devesh Kodnani在报告

段伟文:生成式AI帮人类挤出知识的水分

原文地址:http://news.sciencenet.cn/htmlnews/2023/9/508106.shtm·生成式人工智能可以帮助人类挤出知识的水分。透过生成式人工智能这面模仿性智能的镜子,可以逼迫人类不再假装知道不知道的事情,不再表达人类没有感觉到的东西。生成式人工智能的错误也可以揭示它

美国国防部成立生成式AI工作组

原文地址:http://news.sciencenet.cn/htmlnews/2023/8/506395.shtm

美国七大AI公司自愿为AI生成内容添加水印

原文地址:http://news.sciencenet.cn/htmlnews/2023/7/505242.shtm·这些公司同意进行安全测试,部分由独立专家进行;对偏见和隐私问题进行研究;与政府和其他组织共享有关风险的信息;开发应对气候变化等社会挑战的工具;采取识别AI生成材料的透明度措施。 ·七

AI生成超越自然界的蛋白?

美国研究人员使用人工智能(AI)来设计超越自然界的新蛋白质。他们开发的机器学习算法,可生成具有特定结构特征的蛋白质,这些蛋白质可用于制造具有特定机械性能(如刚度或弹性)的材料,从而取代作为原料的石油或陶瓷。研究论文发表在最新一期《化学》杂志上。  麻省理工学院、IBM沃森AI实验室和塔夫茨大学研究人

扎克伯格:生成式AI将触及Meta所有产品

社交媒体巨头Meta公司当地时间4月26日公布今年第一季度财报,显示其销售额在近一年内首次增长。Meta首席执行官马克·扎克伯格告诉投资者,该公司看到了“将人工智能代理以有用和有意义的方式带给数十亿人的机会”,但并没有放弃元宇宙。财报显示,该公司第一季度的收入为286亿美元,比去年同期增长3%,高于

亚马逊云科技提出全面发力生成式AI的中国行动

  12月12日,亚马逊云科技2023 re:Invent中国行城市巡展活动在北京开启。活动上,亚马逊云科技宣贯了其全面发力生成式人工智能(AIGC)战略的中国行动,称将推出面向企业级生成式AI的一系列新服务及功能,并提供生成式AI各类数据及数据计算能力支持,包括其新一代自研芯片Amazon Gra

英伟达推出生成式AI药物发现平台开启新布局

人工智能计算领导者英伟达(NVIDIA)在过去的一年里接连投资几家AI药物开发公司,其在药物开发领域的雄心壮志正在成为全世界的焦点。 日前,英伟达宣布了三项新举措,其中包括与安进(Amgen)子公司deCode进行新的合作。英伟达表示,deCode将利用英伟达的超级计算机和BioNeMo生成式人工智

亚马逊云全球副总裁:生成式AI正处于炒作周期

原文地址:http://news.sciencenet.cn/htmlnews/2023/8/506067.shtm “我认为我们无法否认互联网泡沫曾经存在过,但它确实改变了每个人的生活,我们现在已经无法想象没有互联网的生活了。我相信生成式人工智能将改变每一个职业、每一个行业中的每一个企业。这需

生成式AI能否赢得下一场企业技术竞赛

原文地址:http://news.sciencenet.cn/htmlnews/2023/8/507563.shtm

“生成式AI产教融合创新高峰论坛”举行

原文地址:http://news.sciencenet.cn/htmlnews/2023/5/501006.shtm5月17日,第七届世界智能大会“生成式AI产教融合创新高峰论坛”在南开大学举行,有关专家学者、企业、高校、科研院所等方面代表120余人参加论坛活动。据了解,生成式AI是当前发展较快、非

拜登签署行政命令,发布白宫首个生成式AI监管规定

·行政命令要求美国多个政府机构制定标准,对人工智能产品进行测试,寻求“水印”等内容验证的最佳方法,拟定网络安全计划,吸引技术人才,以保护隐私,促进公平和公民权利,维护消费者和劳动者的利益,促进创新和竞争,提升美国的领导地位等。·白宫将向十多个政府机构发布内容广泛的指令,还将任命一个白宫人工智能委员会

Gartner-报告:约26%中国用户已着手于生成式AI

根据市场调查机构 Gartner 研究总监孙鑫风险的报告,显示约 26% 中国用户已着手对生成式 AI 技术的部署。该调查结果还显示,在中国有 6% 的用户已经成功部署了与生成式 AI 相关的技术,有 26% 的用户正在积极试点生成式 AI 技术,另有 24% 左右的中国用户表示将在未来 0-6 个

生成式AI驱动新药研发-助力难成药靶点开发是关键

《科创板日报》5月18日讯(记者 朱洁琰) 2023年以来,AI医疗的场子特别热!ChatGPT的火爆将AI技术、生成式技术与其他行业的融合推向了新的讨论及实践高度。其中,医药行业是与这些革命性技术结合的重要方向,企业家、投资人在行业会议里乐此不疲地谈论着。AI医疗相关概念在资本市场上亦持续发酵,从

硅谷押注,生成式AI火了,让你把简单文字变成图像视频

10月9日消息,最近几年兴起的所谓“生成式人工智能(generative AI)”正吸引硅谷科技巨头和风投机构的兴趣,这种AI可以依据少量词汇在几秒钟内生成与之相匹配的图像。分析师预计,这种技术将被广泛用于各行各业,并产生数万亿美元的经济价值。虽然这些计算机程序生成的图像并不完美,比如手上出现多余的

生成式AI加速抗病毒药物开发,提高药物发现潜力

  新兴药物靶蛋白的抑制剂发现具有挑战性,特别是当靶结构或活性分子未知时。  IBM 研究院、牛津大学和 Diamond Light Source 公司的合作团队,通过实验验证了深度生成框架的广泛实用性,他们的框架在蛋白质序列、小分子及其相互相互作用上进行了大规模训练,不偏向任何特定目标。  研究人

亚马逊副总裁:大模型并不是生成式AI的全部

原文地址:http://news.sciencenet.cn/htmlnews/2023/6/503731.shtm ·“大模型并不是生成式AI的全部,而是生成式AI生态系统的一个底层基础平台。平台的使命是让人们可以更容易地在上面构建机器学习的应用,用好生成式AI去解决自己的特定领域或行业场景问

国内首个生成式AI安全指导性文件明确31种风险

原文地址:http://news.sciencenet.cn/htmlnews/2023/10/510167.shtm   ? 《生成式人工智能服务安全基本要求》(征求意见稿)发布,是国内首个专门面向生成式AI安全领域的规范意见稿。 10月11日,全国信息安全标准化技术委员会官网发