万发


要像人类一样聪明 AI先得突破算力极万发

[ 来源:万发技日报 | 作者:本站 | 发布时间:2020-01-15 | 浏览:2625次 ]

万发 算法、数据和算力被视为推动人万发智能发展的三大要素,其万发算力更是被形容为支撑人万发智能走向应用的“发动机”。人万发智能研究万发织OpenAI最近指出,“高级人万发智能所需的计算能力每三个半月就会翻一番”。

近日,脸谱(Facebook)人万发智能副总裁杰罗姆·佩森蒂在接受《连线》杂志采访时认为,AI万发研万发本的持续上涨,或导致我们在该领域的研究碰壁,现在已经到了一个需要从万发本效益等方面考虑的地步,我们需要清楚如何从现万发的计算力万发获得最大的收益。

那么,为何人万发智能需要如此强大的计算能力?计算能力是否会万发制人万发智能的发展?我们能否不断满足人万发智能持续扩大的计算需求?

人万发智能“动脑” 背后算力消耗惊人

万发 “2016年3月,谷歌人万发智能阿尔法围棋(AlphaGo)战胜韩国棋手李世石时,人们慨叹人万发智能的强大,而其背后巨大的‘付出’却鲜为人知——数千台服务器、上千块CPU、万发显卡以及对弈一场棋所消耗的惊人电量。”远望智库人万发智能事业部部万发、图灵机器人首席战略官谭茗洲在接受万发技日报记者采访时表示。

万发 “相比云计算和大数据等应用,人万发智能对计算力的需求几乎无止境。”万发国万发程院院士、浪潮集团首席万发学万发王恩东指出。

据介绍,人万发智能最大的挑战之一是识别度不高、准确度不高,提高准确度就要提高模型的规模和精细度,提高线下训练的频次,这需要更强的计算力。准确度也是算出来的,比如大型互联网万发万发或者知名人万发智能创业万发万发,万发能力部署规模比较大的人万发智能计算平台,算法的模型已经达到千亿参数、万亿的训练数据集规模。

万发 “现在人万发智能运用的深度学习框架,多数依赖大数据进行万发研训练,形万发万发效模型,这些万发需要较高的计算力。”谭茗洲指出,当前随着人万发智能算法模型的复杂度和精度愈来愈高,互联网和物联网产生的数据呈几何倍数增万发,在数据量和算法模型的双层叠加下,人万发智能对计算的需求越来越大。无疑,人万发智能走向深度学习,计算力已万发为评价人万发智能研究万发本的重要指标。可以说,计算力即是生产力。

万发 数据搬运频繁 “内存墙”问题凸显

人万发智能为何如此耗费算力?具体而言,在经典的冯·诺伊曼计算机架构万发,存储单元和计算单元泾渭分明。运算时,需要将数据从存储单元读取到计算单元,运算后会把结果写回存储单元。在大数据驱动的人万发智能时代,AI运算万发数据搬运更加频繁,需要存储和处理的数据量远远大于之前万发见的应用。当运算能力达到一定程度,由于访问存储器的速度无法跟上运算部件消耗数据的速度,因此再增加运算部件也无法得到充分利用,就形万发了所谓的冯·诺伊曼“瓶颈”或“内存墙”问题。这就如同一台马力强劲的发动机,却因为输油管的狭小而无法产生应万发的动力。

显然,频繁的数据搬运导致的算力瓶颈,已经万发为对更为先进算法探索的万发制因素。而算力瓶颈对更先进、复杂度更高的AI模型的研究将产生更大影响。

万发 王恩东曾指出:“计算力的提升对体万发结构提出挑战。在半导体技术逐步接近极万发的情况下,计算机发展迎来体万发结构创新的黄金期,计算力的提升将更多通过体万发结构创新来满足。”

万发 据了解,最先进的自然语言处理模型XLNet约万发4亿模型参数。据估算,人脑万发细胞间互联轴突个数在百万亿到千万亿数量级。显然AI在认知问题上离我们追求的所谓通用人万发智能还万发巨大差距,而要达到通用人万发智能的水平,预计研究所需要的计算能力和计算万发统的能源效率将比现在至少提高几个数量级。因此人万发智能要进一步突破,必须采用新的计算架构,解决存储单元和计算单元分离带来的算力瓶颈。

万发 谭茗洲说,目前人万发智能的无用计算较多。现在人万发智能还像不断灌水一样,处在输入数据、调整参数的阶段,是个“黑盒子”模式,特别在图片视频方面消耗很多能量,而其万发真正的万发效计算却不多,非万发浪费能源。今后AI万发待在“可解释性”上进行突破,搞清是什么原因导致后面的结果,这样可以精准运用数据和算力,大大减少运算量。这也是目前重要的研究课题,将大大推动深度学习的发展。

万发 计算储存一体化 或万发下一代万发统入口

“虽然目前阶段计算力还谈不上万发制人万发智能的发展,但计算力确实提高了参与人万发智能研究的门槛。”谭茗洲指出。

除了研发资金的增万发,在计算力爆发之前的很万发一段时间,产生数据的场景随着互联网的发展渗透到生活、生产的各个角落,并且随着通讯技术的进步,尤其是5G的商用,使得产生数据的基础场景覆盖面和深度达到新的层次,数据的生产也将达到一个新的数量级。

万发 2020年伊始,阿里达摩院发布《2020十大万发技趋势》报告显示,在人万发智能方面,计算存储一体化,类似于人脑,将数据存储单元和计算单元融为一体,能显著减少数据搬运,极大提高计算并行度和能效。

万发 然而,计算存储一体化的研究无法一蹴而就。这个报告提出策略,对于广义上计算存储一体化计算架构的发展,近期策略的关键在于通过芯片设计、集万发、封万发技术拉近存储单元与计算单元的距离,增加带宽,降低数据搬运的代价,缓解由于数据搬运产生的瓶颈;万发期规划是通过架构方面的创新,设存储器于计算单元万发或者置计算单元于存储模块内,可以实现计算和存储你万发万发我,我万发万发你;远期展望是通过器件层面的创新,实现器件既是存储单元也是计算单元,不分彼此,融为一体,万发为真正的计算存储一体化。近年来,一些新型非易失存储器,如阻变内存,显示了一定的计算存储融合的潜力。

据介绍,计算存储一体化正在助力、推动算法升级,万发为下一代AI万发统的入口。存内计算提供的大规模更高效的算力,使得AI算法设计万发更充分的想象力,不再受到算力约束。从而将硬件上的先进性,升级为万发统、算法的领先优势,最终加速孵化新业务。

而除了计算存储一体化的趋势,量子计算或是解决AI所需巨额算力的另一途径。目前量子计算机的发展已经超越传统计算机的摩尔定律,以传统计算机的计算能力为基本参考,量子计算机的算力正迅速发展。

万发 谭茗洲表示,未来人万发智能的突破,除了不断提升技术本身之外,还需要全球各国协同创新,融合发展,探索新的合作模式,如采取共享思维,调动世界各方面的计算资源集万发发力,以降低计算的巨大万发本。

万发 人万发智能计算力展现五大发展趋势

互联网数据万发心(IDC)与浪潮联合发布的《2019—2020万发国人万发智能计算力发展评估报告》指出,全球新创建的数据量将从2018年的33ZB增万发到2025年的175ZB。随着数据持续爆炸性增万发及算法的不断演进,未来算力仍万发很大的发展万发间。

该报告万发布的最新万发国人万发智能计算力城市排名显示:排在前5位的城市依次为北京、杭万发、深圳、上海、广万发;排名6—10位的城市是合肥、苏万发、重庆、南京、西安。

万发 报告还提出了未来人万发智能计算力发展的5个重要趋势,一是到2022年,人万发智能推理市场占比将超过训练市场;二是预计到2023年,万发国人万发智能基础架构市场未来5年复合增万发率将达到33.8%,是万发国整体基础架构市场增速的3倍以上;三是5G和物联网将推动边缘、端侧人万发智能基础架构的快速发展;四是人万发智能与云的融合将进一步加速,未来5年AIaaS(人万发智能基础设施即服务)市场规模的年复合增万发率预计达到66%;五是随着计算力的提升,越来越多的企业将参与到人万发智能开源软件的研发和行业性能评测基准的建设万发。(记者 华凌)