发布时间:2024-04-01 13:10 原文链接: 提供“百亿补贴”!无问芯穹发布大模型服务平台

  3月31日,源自清华的创新企业无问芯穹在上海举办“多元计算·泛在链接”AI算力优化论坛暨产品发布会,清华大学电子工程系长聘教授、无问芯穹发起人汪玉携联合创始人团队首次集体公开亮相,并发布“无穹Infini-AI”大模型开发与服务平台。

  无穹Infini-AI大模型开发与服务平台基于多芯片算力底座开发,旨在有效整合和优化算力资源、设计出好的利用方式和工具,缓解大模型企业面临的算力紧缺状况。会上,无问芯穹宣布,该开发服务平台自3月31日起正式开放全量注册,并给所有实名注册的个人和企业用户提供百亿tokens免费配额。

  无问芯穹联合创始人兼CEO夏立雪介绍说,开发者可以在这个平台上体验、对比各种模型能力和芯片效果,通过简单拖拽各种参数按钮的动作,就能精调出更贴合业务的大模型并部署在无穹Infini-AI上,再以非常优惠的千token单价向用户提供服务。

  谈起发布这一平台的初衷,汪玉介绍说,大模型引发社会广泛关注后,他们认为,国内整体算力水平距离国际先进还有明显差距,仅靠芯片工艺提升或多元芯片的迭代已远远不够,需要建立一个大模型生态系统,让不同模型能自动部署到不同硬件上,让各种算力得到有效利用。

  据介绍,无穹Infini-AI已支持Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3闭源模型、Llama2、Qwen、Qwen1.5系列等共20多个模型,以及AMD、壁仞、寒武纪、燧原、天数智芯、沐曦、摩尔线程、NVIDIA等10余种计算卡,支持多模型与多芯片之间的软硬件联合优化和统一部署。第三方平台或自定义训练、微调而来的模型也可以无缝迁移托管到无穹Infini-AI,并获得细粒度定制化的按token计费方案。

  “我们对模型品牌和芯片品牌的覆盖率还会持续提升,随着时间的推移,无穹Infini-AI的性价比优势会越来越突出。”夏立雪表示,未来无穹Infini-AI还将支持更多模型与算力生态伙伴的产品上架,让更多大模型开发者能够‘花小钱、用大池’,持续降低AI应用的落地成本。

相关文章

AI实现高清电子图书“随扫随存”

在4月20至23日“世界读书日”期间,合合信息旗下扫描全能王联合上海首家图像小说主题书店——安古莱姆书店,共同发起“春天正是读书天”线下公益阅读活动。为方便阅读爱好者随时随地畅享阅读的乐趣,“世界读书......

AI实现高清电子图书“随扫随存”

在4月20至23日“世界读书日”期间,合合信息旗下扫描全能王联合上海首家图像小说主题书店——安古莱姆书店,共同发起“春天正是读书天”线下公益阅读活动。为方便阅读爱好者随时随地畅享阅读的乐趣,“世界读书......

科学家为黑洞做“断层扫描”

科技日报北京4月22日电 (记者张梦然)美国加州理工学院天文学家正在给黑洞做“计算机断层扫描”(CT)。他们利用一种神经网络以及相当于CT扫描的三维(3D)技术,首次重建了银河系中心超大质量......

科学家为黑洞做“断层扫描”

科技日报北京4月22日电 (记者张梦然)美国加州理工学院天文学家正在给黑洞做“计算机断层扫描”(CT)。他们利用一种神经网络以及相当于CT扫描的三维(3D)技术,首次重建了银河系中心超大质量......

上海交大成立新学院,打造AI领域“黄埔军校”

人工智能未来科技对话会暨人工智能学院成立揭牌仪式在徐汇校区举行。上海市人民政府副市长刘多,上海市人民政府副秘书长尚玉英,上海交大党委书记杨振斌,上海交大校长、中国科学院院士丁奎岭共同为上海交通大学人工......

上海交大成立新学院,打造AI领域“黄埔军校”

人工智能未来科技对话会暨人工智能学院成立揭牌仪式在徐汇校区举行。上海市人民政府副市长刘多,上海市人民政府副秘书长尚玉英,上海交大党委书记杨振斌,上海交大校长、中国科学院院士丁奎岭共同为上海交通大学人工......

AI将帕金森病药物设计提速十倍

英国剑桥大学研究人员使用人工智能(AI)技术大幅加快了帕金森病治疗方法的开发。他们设计并使用了一种基于AI的策略,来识别阻止α-突触核蛋白(帕金森病的特征蛋白)聚集的小分子。研究结果发表在新一期《自然......

AI将帕金森病药物设计提速十倍

英国剑桥大学研究人员使用人工智能(AI)技术大幅加快了帕金森病治疗方法的开发。他们设计并使用了一种基于AI的策略,来识别阻止α-突触核蛋白(帕金森病的特征蛋白)聚集的小分子。研究结果发表在新一期《自然......

爆发的AI技术正给教育者带来多重焦虑

日前,一场闭门研讨会吸引了全国数十所高校的管理者和学者。会议现场,一个个问题的提出,加剧着与会者的焦虑情绪。眼下,人工智能(AI)的发展已开启加速度,如果人类未来能够通过AI获得自己想学的任何知识,获......

爆发的AI技术正给教育者带来多重焦虑

日前,一场闭门研讨会吸引了全国数十所高校的管理者和学者。会议现场,一个个问题的提出,加剧着与会者的焦虑情绪。眼下,人工智能(AI)的发展已开启加速度,如果人类未来能够通过AI获得自己想学的任何知识,获......