Antpedia LOGO WIKI资讯

独特视角:从物理智能到微波视觉(二)

2006年,Hinton提出的“贪婪算法”训练多层自编码器引领了一批专家去研究深度神经网络,包括LeCun和Bengio等。深度神经网络之所以取得巨大成功,笔者认为其最核心算法改进在于采用了一类简化的激活函数,即规则化线性单元(rectified linear unit,ReLU)。由图3可知,ReLU本质上是分段线性函数y=max(0,x)。类似ReLU的激活函数事实上早在1975年即被提出[5],但是在1980年代被Sigmoid等具有良好非线性、连续可导、梯度计算复杂度低等优点的激活函数全面取代。一直到2009年,LeCun团队[6]在研究深度神经网络时,发现采用类ReLU的分段线性激活函数是实现对深度网络端到端训练的关键因素。2011年,Bengio团队[7-8]研究得到结论:深度神经网络最适合用ReLU作为激活函数,给出的理由包括ReLU与人脑神经元的相似性,因为神经元对某些输入完全没有反应,而对一些输入的反应......阅读全文

独特视角:从物理智能到微波视觉(一)

摘要:近10 年来,人工智能技术得到了科技与工业界的极大的重视,预示着人类文明将进入智能时代。但是,作为智能时代基础的“智能科学”还远未成型。本文从电磁物理信息感知技术的独特视角,讨论智能科学如何发展的一些见解,指出人类智能与外在世界互为对偶问题、相互不可分割的根本属性,因此按人工智能所应对的对

《麻省理工科技评论》35位中国科技青年入选英雄榜!

  《麻省理工科技评论》于 2016 年正式落地中国,次年,“35 岁以下科技创新 35 人” (Innovators Under 35)中国榜单正式发布!四年成长、四届榜单,我们持续关注和发掘中国科技发展中不断崛起的新兴力量。从实验室里最新的技术研发成果,到各前沿领域的科技创业者们所取得的里程碑式

2016全球最受公众关注的科学成果

  中国科学院科技战略咨询研究院战略情报研究所研制的“2016全球最受公众关注的科学成果”,通过计量统计遴选出天文学与天体物理[1]、物理学、化学、地球科学、生命科学这五个学科中受到科技界热切关注的科学成果,及中国研究者参与的每个学科TOP30受公众关注的科学成果,为科技工作者把握最新的科学研究热点