beplay首页

beplay网群使用指南
当前位置:关注森林 > 应对气候变化 > 气候动态 > 正文

深度学习的发展,与由此引发的气候变化问题

媒体:51cto  作者:Forbes
专业号:碳汇资讯 2020/6/29 9:56:23

人脑是一种效率极高的智能来源,但目前的AI还达不到这样的水平。

本月早些时候,OpenAI宣布已经构建起有史以来规模最大的AI模型。这套惊人的模型名为GPT-3,已经成为令人印象深刻的伟大技术成就。但在这辉煌的背后,也凸显出人工智能领域一种令人担忧的负面趋势——更可怕的是,主流舆论对此尚未给予足够的关注。

现代AI模型需要消耗大量电力,而且对电力的需求正以惊人的速度增长。在深度学习时代,构建一流AI模型所需要的计算资源平均每3.4个月翻一番;换句话说,从2012年到2018年间,AI计算资源消耗量增长了30万倍。而GPT-3,只是这股潮流的最新体现。

总而言之,AI技术带来的碳排放已经不容忽视;如果行业趋势继续下去,那么情况将很快失去控制。除非我们愿意重新评估并改革当今的AI研究议程,否则人工智能领域很可能在不久的未来成为引发气候变化的罪魁祸首。

更大并不一定更好

在当今以深度学习为中心的研究范式当中,人工智能的主要进步主要依赖于模型的规模化扩展:数据集更大、模型更大、计算资源更大。

GPT-3就很好地说明了这种现象。这套模型中包含多达1750亿个参数。为了帮助大家更直观地理解这个数字,其前身GPT-2模型(在去年发布时,同样创下了体量层面的纪录)只有15亿个参数。去年的GPT-2在拥有千万亿次算力的设备上训练了几十天;相比之下,GPT-3的训练时长将增长至数千天。

这种靠“每况愈大”模型推动AI技术进步的问题在于,这类模型的构建与部署都需要消耗大量能源,并由此产生巨量碳排放。

在2019年的一项广泛研究当中,由Emma Strubell牵头的一组研究人员估计,训练一套深度学习模型可能产生高达62万6155磅的二氧化碳排放量——大约相当于五辆汽车从出厂到报废的总二氧化碳排放规模。如果这还不够直观,那么每个美国人每年平均产生3万6156磅二氧化碳排放量。

可以肯定的是,这项估算主要针对那些高度依赖于能源的模型。毕竟结合当前现实,机器学习模型的平均训练过程绝不至于产生60多万磅二氧化碳。

同样值得注意的是,在进行这项分析时,GPT-2仍然是研究领域规模最大的模型,研究人员也将其视为深度学习模型的极限。但仅仅一年之后,GPT-2就成了“纤细瘦小”的代名词,下代模型的体量超过其百倍。

为什么机器学习模型会消耗那么多能源?

最重要的原因,就是训练这些模型的数据集本身也在快速增肥。在使用包含30亿个单词的数据集进行训练之后,BERT模型在2018年实现了同类最佳的自然语言处理(NLP)性能。而在利用包含320亿个单词的训练集完成训练之后,XLNet又超越了BERT。不久之后,GPT-2开始在包含400亿个单词的数据集上接受训练。最终是我们前面提到的GPT-3,它使用的是一套包含约5000亿个单词的加权数据集。

在训练过程中,神经网络需要为每一条数据执行一整套冗长的数学运算(正向传播与反向传播),并以复杂的方式更新模型参数。因此,数据集规模越大,与之对应的算力与能源需求也在飞速增长。

导致AI模型大量消耗能源的另一个理由,在于模型开发过程中所需要的大量实验与调整。目前,机器学习在很大程度上仍是一个反复实验试错的流程。从业人员通常会在训练过程中为当前模型构建数百个版本,并通过不断尝试各类神经架构与超参数确定最佳设计方案。

之前提到的2019年论文中还包含一项案例研究,研究人员们选择了一个体量适中的模型(显然要比GPT-3这样的庞然大物小得多),并对训练其最终版本所需要的电力、以及生产最终版本所需要的试运行总量进行了统计。

在为期六个月的过程中,研究人员共训练了该模型的4789个不同版本,折合单GPU运行时长为9998天(超过27年)。考虑到所有因素,研究人员们估计,该模型的构建过程将产生约7万8000磅二氧化碳,超过美国成年人两年的平均二氧化碳排放量。

而到这里,我们讨论的还仅仅是机器学习模型的训练部分。而训练只能算是模型生命周期的开始;在训练完成之后,我们还需要在现实环境中使用这些模型。

在现实环境中部署并运行AI模型(即推理过程),所带来的能源消耗量甚至高于训练过程。实际上,英伟达公司估计,神经网络全部算力成本中的80%到90%来自推理阶段,而非训练阶段。

例如,我们可以考虑自动驾驶汽车中的AI模型。我们需要首先对该神经网络进行训练,教会它驾驶技巧。在训练完成并部署至车辆上之后,该模型将持续不断地进行推理以实现环境导航——只要汽车仍在行驶,模型的推理过程就将不间断地进行。

毋庸置疑,模型中包含的参数量越大,推理阶段所带来的电力需求就越夸张。

能源使用与碳排放

要探讨这个问题,我们先要找到能源使用与碳排放之间的对应关系。那么,该如何准确判断这种对应关系?

根据美国环保署(EPA)公布的数据,在美国,一千瓦时电力平均对应0.954磅二氧化碳排放量。这一平均值反映了碳足迹变化以及美国电网当中的不同电力来源(包括可再生能源、核能、天然气以及煤炭等)的客观比例。

如上所述,Strubell在分析中采用了美国本土的电力碳排放平均值,以根据不同AI模型的能源需求计算对应的碳排放量。这个假设已经相当合理,因为Amazon Web Services的电力组合就一致符合美国整体的发电来源结构,而目前的大多数AI模型都会选择在公有云端进行训练。

当然,如果尽可能使用可再生能源产生的电力进行AI模型训练,其碳足迹必将有所降低。例如,与AWS相比,Google Cloud Platform的电力结构中可再生能源的比例更高(根据Strubell的论文,AWS的可再生能源占比17%,谷歌方面则占比56%)。

我们也可以再举个例子,由于所在地区拥有丰富的清洁水电资源,因此大西洋西北部区域的硬件设施在训练模型时所产生的碳排放将低于全美平均水平。值得一提的是,目前各大云服务供应商都在强调其在碳排放控制方面做出的努力。

但总体来说,Strubell认为美国的整体电力组合仍然具有充分的说服力,可用于大体准确地估算出AI模型的碳足迹。

收益递减

模型体量与模型性能之间的关系,则能帮助我们了解提升模型规模到底能够给AI技术发展带来怎样的帮助。这方面数据倒是非常明确:模型体量的持续增加,最终会导致性能回报急剧下降。

我们用实例来证明这个观点。ResNet是一套于2015年发布的知名计算机视觉模型。该模型的改进版本名为ResNeXt,于2017年问世。与ResNet相比,ResNeXt需要的计算资源提升了35%(按总浮点运算量计算),但精度却只增长了0.5%。

在艾伦人工智能研究所2019年发表的论文中,我们可以看到更详尽的比较数据,其中记录了不同任务、模型与AI子领域的模型规模收益递减情况。与GPT-2相比,最新发布的超大型GPT-3模型也出现了显著的收益递减迹象。

如果AI社区继续沿着当前的道路前进,那么研究人员们必然需要花费更多精力构建起越来越大的模型,但由此带来的性能提升却越来越小。这意味着成本/收益率将变得愈发不相称。

既然收益递减客观存在,为什么人们还在不断推出越来越大的模型呢?一大主要原因,在于AI社区当下仍过于关注能在性能基准测试中创下新高的“最新”纪录。在众所周知的基准测试中拿下新顶点的模型(即使仅提升一个百分点),也能赢得研究人员们的一致认可与好评。

正如加州大学洛杉矶分校(UCLA)Guy Van den Broeck教授所言,“我认为比较准确的比喻,就是某个盛产石油的beplay能够建造一座很高的摩天大楼。在摩天大楼的建造过程中,当然能够帮beplay积累下「最先进的技术」。但这一切……无法带来任何科学意义上的进步。”

目前,AI研究议程领域这种“越大越好”的偏执精神很可能在未来几年给自然环境造成重大破坏。这就要求我们在深思熟虑之后进行大胆变革,将人工智能重新引导到持续性更强、生产力水平更高的正确轨道上。

展望未来

首先,每一位AI从业者应该尽快将“缩短周期”作为研究目标,借此降低技术发展对环境造成的影响。

而最重要的第一步,就是增强AI模型碳排放问题的透明度与量化考核。当AI研究人员发布新模型的研究结果时,除了性能与精度两项核心指标之外,还应该附上模型开发过程中的总体能源数据。

经过认真分析,艾伦人工智能研究所的团队提出将浮点运算作为研究人员们最通用也最准确的能效衡量标准。另一支小组也创建出一款机器学习碳排放计算器,可帮助从业者们借此估算当前模型的碳足迹(其中涵盖硬件、云服务供应商以及地理区域等诸多因素)。

遵循这些思路,研究人员们还需要在模型训练过程中,将能源成本与性能收益之间的关系作为不能回避的重要度量。明确量化这项指标,将促使研究人员们重要收益递减问题,进而在资源分配上做出更明智、更平衡的决策。

希望随着可持续AI实践的普及,技术社区能够在评估AI研究时着重考虑这些效率指标,并把这些指标的重要性提高到精度等传统性能指标的水平,最终使其在论文发表、演讲分享以及学术成果等领域发挥更重要的作用。

当然,其他一些方法也有望在短期之内帮助AI模型减少碳排放:使用更高效的超参数搜索方法、减少训练过程中不必要的实验次数、采用更节能的硬件等等。

但单靠这些补救性的措施,不足以彻底解决问题。人工智能领域需要在根本上做出长期转变。

我们需要退后一步,承认单纯建立越来越庞大的神经网络并不是通往广义智能的正确路径。从第一原理出发,我们必须逼迫自己去发现更优雅、更高效的方法,对机器中的智能进行建模。我们与气候变化的斗争,甚至是整颗蓝色星球的未来,可能也都将维系于此。

引用AI界传奇人物、深度学习教父Geoff Hinton的名言,“未来可能掌握的某些研究生手里,因为他们对我所说的一切深表怀疑……他们可能会彻底抛弃我的观点,从零开始再次探索。”

AI社区必须敢于建立人工智能的新范式,这些范式既不需要指数级增长的数据集、也不需要恐怖的电力消耗。小样本学习等新兴研究领域,也许会成为我们走向光明未来的新道路。

作为最初的智能来源,人脑也将给我们带来重要启发。与目前的深度学习方法相比,我们的大脑非常高效。人脑仅几磅重,运行功率约20瓦——只够让低功率灯泡亮起昏暗的光。然而,它们却也代表着宇宙中当前已知的最强大的智能形态。

AI研究人员Siva Reddy也不禁感叹,“人脑只需要极低的功耗,就能达成令人惊奇的表现。问题在于,我们如何才能制造出这样的机器。”

阅读268
我也说两句
E-File帐号:用户名: 密码: [注册]
评论:(内容不能超过500字,如果您不填写用户名和密码只能以游客的身份发表评论。)

*评论内容将在30分钟以后显示!
版权声明:
1.依据《服务条款》,本网页发布的原创作品,版权归发布者(即注册用户)所有;本网页发布的转载作品,由发布者按照互联网精神进行分享,遵守相关法律法规,无商业获利行为,无版权纠纷。
2.本网页是第三方信息存储空间,阿酷公司是网络服务提供者,服务对象为注册用户。该项服务免费,阿酷公司不向注册用户收取任何费用。
  名称:阿酷(北京)科技发展有限公司
  联系人:李女士,QQ468780427
  网络地址:www.arkoo.com
3.本网页参与各方的所有行为,完全遵守《信息网络传播权beplay条例》。如有侵权行为,请权利人通知阿酷公司,阿酷公司将根据本条例第二十二条规定删除侵权作品。