(原标题:GPU寿命太短,AI催生一堆电子垃圾)
如若您但愿不错雷同碰头,接待标星储藏哦~
着手:本体编译自IEEE,谢谢。
当年一年多里,东说念主工智能( AI)海浪席卷环球,主要的科技公司皆在大举投资数据中心GPU,这使得商场上最大的数据中心GPU英伟达赚得盆满钵满。天然高性能的数据中心GPU订价很高,但是使用寿命却不太长,这是由于泛泛承受着AI推理磨砺的勤恳责任负载,往往比其他组件老化得更快。
最近有阐发称,云劳动提供商(CSP)运营的数据中心里,这些GPU在AI责任负载中的诈欺率约为60%至70%。按照这个诈欺率,GPU雷同只可使用1到2年,即便较为理念念的状况,最多也就3年。需要强调的是,当前用于AI和HPC应用的数据中心GPU功耗很高,可达到700W或以上,这对于芯片来说是一个很大的压力,一定流程上也减少了寿命。
如若念念要延长数据中心GPU的使用寿命,其中一种圭表是缩小诈欺率,可是这也意味着其以更迟缓的速率贬值,何况需要更长的期间智商回本,这对于付出昂贵老本的企业来说是不利的。因此大部分云劳动提供商权衡了收益以后,最常见的作念法仍然是以高诈欺率开动。
此外,阐发还凭据数据统计后果指出,数据中心GPU的年化故障率约为9%,3年后简略在27%,一般使用一年后更可能经常地出现故障。
最近,IEEE也在一个阐发中说出了差未几的论点。
生成式东说念主工智能带来了无数电子垃圾问题
德勤示意,私东说念主对生成式东说念主工智能的投资已从 2022 年的约 30 亿好意思元增长至 2023 年的 250 亿好意思元,约 80% 的私营企业瞻望东说念主工智能将在改日 3 年鼓励其业务发展。跟着更新、更先进的芯片问世,跟上最新阐发意味着升级数据中心的GPU、CPU 和其他电子建立。计划东说念主员预测,这将导致电子垃圾产量激增。
上周发表在《天然诡计科学》杂志上的一项计划估量,到 2030 年,仅积极罗致大型谈话模子(LLM) 每年就会产生 250 万吨电子垃圾。
“东说念主工智能并非造谣而来;它依赖于具有切实环境行踪的无数硬件资源,”计划合著者、以色列赖希曼大学可执续发展与表象计划员Asaf Tzachor示意。“意志到电子垃圾问题对于制定减弱负面环境影响的计谋至关贫苦,同期让咱们能够从东说念主工智能的逾越中获益,”他说。
大多数对于东说念主工智能可执续性的计划皆麇集在这些模子的能源和水资源使用情况过头奉陪的碳排放上。Tzachor 与中国科学院的王鹏培育和陈伟强培育融合,诡计了生成式东说念主工智能可能产生的电子垃圾增长量。这项计划旨在对问题的潜在鸿沟进行估量,计划东说念主员但愿这将促使企业采选更可执续的作念法。
电子垃圾含有有毒金属和其他化学物资,这些物资会渗透环境并形成健康问题。凭据集结国环球电子垃圾监测阐发, 2022 年,环球共产生了 6200 万吨电子垃圾。集结国发现,这种垃圾流的增长速率是回收筹划的五倍。
改日几年,东说念主工智能可能会对这一问题产生要紧影响。Tzachor 示意,与生成式东说念主工智能相干的电子垃圾包括毁掉的 GPU、CPU、数据中心备用电源使用的电板、内存模块和印刷电路板。
该计划详备先容了生成式东说念主工智能应用的四种可能情景——从有限膨大到积极膨大——并预测了从 2023 年每年 2,600 吨的基准来看电子垃圾的潜在膨大。东说念主工智能的有限膨大将在 2023 年至 2030 年期间产生算计 120 万吨的电子垃圾;积极使用将导致在此期间产生算计 500 万吨的电子垃圾。Tzachor 示意,鉴于当前的趋势,积极情景是最有可能的。
这项计划并不全面——它只商酌了大型谈话模子,而莫得商酌其他面容的生成式东说念主工智能。Tzachor 示意,该团队之是以专注于 LLM,是因为它们是诡计量最大的鸿沟之一。“如若包括其他面容的东说念主工智能,瞻望的电子垃圾数目将会增多,”Tzachor 说说念。
表面上,罗致更先进的芯片应该不错匡助劳动器场以更少的资源作念更多的事情,并减少销耗。但每次升级皆会导致废料流净增多。鉴于当前对半导体的买卖收场,升级并不老是一种选拔。无法赢得首先进芯片的国度可能会因此产生更多废料。计划标明,蔓延一年升级到最新芯片将导致电子垃圾增多 14%。
减少这种东说念主工智能废料流的最好圭表之一是找到重迭使用电子建立的圭表,也等于 Tzachor 所说的左迁回收。不再先进的劳动器不错再行用于托管网站或本质更基本的数据搞定任务,也不错捐送礼培育机构。
大多数科技公司(包括亚马逊、谷歌和 Meta)皆秘书了可执续发展目的,重心存眷碳行踪和使用绿色能源。微软已本旨收场其数据中心的电子垃圾分娩。但 Tzachor 示意,可能需要制定规章来确保恪守权衡东说念主工智能电子垃圾的最好作念法。“公司应该有能源罗致这些策略,”他说。
https://spectrum.ieee.org/e-waste
半导体佳构公众号保举
专注半导体鸿沟更多原创本体
存眷环球半导体产业动向与趋势
*免责声明:本文由作家原创。著述本体系作家个东说念主不雅点,半导体行业不雅察转载仅为了传达一种不同的不雅点,不代表半导体行业不雅察对该不雅点赞同或援手,如若有任何异议,接待权衡半导体行业不雅察。
今天是《半导体行业不雅察》为您共享的第3937本体,接待存眷。
『半导体第一垂直媒体』
及时 专科 原创 深度
公众号ID:icbank
心爱咱们的本体就点“在看”共享给小伙伴哦