发布时间:2010-07-29 12:17 原文链接: 美打破“太字节障碍”创数据分类速度纪录

  美国加州大学计算机科学家打破了“太字节(Terabyte)障碍”,创造了在60秒内对超过太字节数据进行分类的世界纪录。在被誉为“数据分类的世界杯”的“分类基准”比赛中,他们还追平了最快数据分类率的世界纪录,172分钟内数据分类量达到1万亿字节,不过使用的计算机资源只有原纪录创造者计算机资源的1/4。

  寻求新趋势、高效率和其他竞争优势的公司致力于发展大数据量的分类途径,通常此项工作需要超强的数据中心。互联网的运行显示了数据分类的重要性,社会网络的广告、亚马逊网站的推荐以及谷歌的搜索结果均源自对多达数拍字节(petabyte)数据组的分类。1拍字节等于1000太字节。

  研究项目负责人、加州大学圣地亚哥分校计算机科学教授阿敏·瓦达特表示,如果某家大公司需要查询所有相关的网页或产品销售,这需要对多达数拍字节的数据组进行分类,而数据组本身每天可呈千兆字节的速度增长。公司在不断地将其数据分类的数量和速度推向极限。瓦达特认为,实时的数据分析需要更好的分类技术。在数据中心,分类常常是许多更高级活动的“瓶颈”。

  计算机科学家面对的数据分类挑战不同于其他的利用现成数据库软件参加的比赛,它们之间最大的差异是在太字节和拍字节分类中,数据远远超过了计算机做分类所具有的内存容量。为了建立自己的大数据量分类系统,瓦达特他们专门设计了高速且平衡的计算机系统。所谓平衡系统是指系统内的技术资源如内存、存储和网络宽带等被全量使用,做到尽可能没有浪费。

  为打破“太字节障碍”,瓦达特他们建立的计算机系统拥有52个计算机节点,每个节点为1台装有两个4核处理器的服务器,其内存为24千兆字节,16块每块为500千兆字节的硬盘组成了存储空间。作为合作者,美国思科公司为研究小组提供了Nexus 5020交换机。

相关文章

346款生成式人工智能备案

7月21日,中国互联网络信息中心(CNNIC)在京发布第56次《中国互联网络发展状况统计报告》(以下简称《报告》)。《报告》显示,截至6月,我国网民规模达11.23亿人,互联网普及率达79.7%,越来......

清华教授获国际互联网最高荣誉乔纳森·波斯塔尔奖

当地时间11月6日,在爱尔兰都柏林举行的第121届IETF大会上,国际互联网协会将2024年度乔纳森·波斯塔尔奖授予中国科学家——清华大学教授李星。据悉,国际互联网协会在颁奖词中表示:“李星教授是中国......

2023年度河北省科学技术奖揭晓首次设置特等奖

9月2日,全省科技大会、河北省科学技术奖励大会在石家庄召开,对获得2023年度河北省科学技术奖的项目和人员进行表彰。253项(人/组织)被授予2023年度河北省科学技术奖。其中,河北省首次设置科学技术......

2024互联网岳麓峰会在湖南长沙举行

9月9日,以“AI汇湘江·数智驱未来”为主题的2024互联网岳麓峰会在湖南长沙举行。项目签约仪式。主办方供图峰会聚焦在“AI+”时代把握数字化、网络化、智能化发展机遇,为湖南数字产业发展勾画新蓝图,围......

电动汽车变“移动充电宝”全国最大规模车网互动示范区正式商用

近日,全国最大规模的车网互动示范区——江苏无锡车网互动示范区昨天正式商用。该示范区一期工程包含59台车网互动充放电桩,单桩最大充放电功率可达60千瓦。在示范区内,车主点击手机小程序中的放电按钮,就可以......

中国“网”事:穿过羊肠小道,驶入信息高速

“中国互联网的发展史会记住这一天:1994年4月20日。”时隔30年,中国科学院计算机网络信息中心(以下简称网络中心)首任主任宁玉田依然清晰地记得那个特殊的日子。当天,一条传输速率为64K的国际专线从......

中国科学院正在规划建设下一代“中国科技网”

4月19日上午,中国全功能接入国际互联网30周年前夕,以“潮涌网络·向新出发”为主题的高端对话在中国互联网诞生地——中国科学院计算机网络信息中心举办。记者从该活动中了解到,30年来,中国互联网核心共性......

多部门联合开展全国数据资源调查

国家数据局19日发布消息,为摸清数据资源底数,加快数据资源开发利用,更好发挥数据要素价值,国家数据局、中央网信办等部门联合开展全国数据资源情况调查,调研各单位数据资源生产存储、流通交易、开发利用、安全......

探寻新需求构筑新型服务体系——动脉网最新发布2023互联网医疗服务洞察报告

2023年开始,互联网医疗进入真正的常态化时期。在更为冷静的环境下,将过去的高光时刻转变为能力沉淀是下一轮突破市场局面的关键。为了更好地洞察新阶段互联网医疗的用户需求与供给匹配,动脉网蛋壳研究院与京东......

紧盯AI发展浪潮多只QDII基金重仓科技与互联网龙头

随着基金2023年四季报披露完毕,QDII基金最新投资路径曝光。去年四季度,QDII基金整体保持较高的权益仓位,但较去年三季度末小幅降低。具体投资方向上,美股和港股仍是QDII基金重点布局的区域。其中......