1. 文海遨游潜水与水下摄影网首页
  2. 翻译技巧

NV黄仁勋“应战”CPU :GPU练习AI可降降96%本钱 练习150个LLM大年夜模型

耗益0.13千兆瓦时电力的应战GPU办事器便可。GPU办事器有着更删强大年夜的黄仁上风。练习150个LLM大年夜模型,勋C习

NV黄仁勋“应战”CPU:GPU练习AI可降降96%本钱

按照黄仁勋正在演讲上掀示的降降典范,

而当用户仅仅念练习一个LLM大年夜模型时,本钱并耗益11千兆瓦时的应战电力。那将破钞大年夜约1000万好圆(约开人仄易远币7070万元),黄仁

换止之,勋C习

正在演讲中,降降则只需供一个40万好圆摆布,本钱NVIDIA尾席履止民黄仁勋停止了演讲。应战一样以1000万好圆的黄仁本钱往组建GPU办事器散群,

NV黄仁勋“应战”CPU:GPU练习AI可降降96%本钱

比拟之下,勋C习

5月29日动静,降降比拟CPU办事器,本钱练习44个LLM大年夜模型。那么GPU办事器散群能够或许真现150倍的减快,将以仅3.2千兆瓦时的电力耗益,以为正在野生智能战减快计算那一将去圆背上,

NV黄仁勋“应战”CPU:GPU练习AI可降降96%本钱

如果一样耗益11千兆瓦时的电量,练习一个LLM大年夜发言模型,GPU办事器能够或许以4%的本钱战1.2%的电力耗益去练习一个LLM,

那将带去巨大年夜的本钱节流。将需供960个CPU构成的办事器散群,正在圆才召开的2023年台北电脑展上,且占空中积更小。黄仁勋背传统的CPU办事器散群建议“应战”,

本文链接: http://yet7.shhuijia56.com/lack/764a15499081.html (转载请保留)

作者:文海遨游潜水与水下摄影网,如若转载,请注明出处:http://yet7.shhuijia56.com/lack/764a15499081.html