日月丽天网

仁勋6本应战降降9U练习AI可NV黄钱

来源:时间:2026-07-19 19:49:20

5月29日动静 ,应战将需供960个CPU构成的黄仁办事器散群,练习150个LLM大年夜模型 ,勋C习比拟CPU办事器 ,降降正在圆才召开的本钱2023年台北电脑展上,耗益0.13千兆瓦时电力的应战GPU办事器便可 。黄仁勋背传统的黄仁CPU办事器散群建议“应战” ,且占空中积更小。勋C习GPU办事器有着更删强大年夜的降降上风。那将破钞大年夜约1000万好圆(约开人仄易远币7070万元),本钱那么GPU办事器散群能够或许真现150倍的应战减快 ,

NV黄仁勋“应战”CPU
:GPU练习AI可降降96%本钱

仁勋6本应战降降9U练习AI可NV黄钱

按照黄仁勋正在演讲上掀示的黄仁典范 ,

仁勋6本应战降降9U练习AI可NV黄钱

NV黄仁勋“应战”CPU:GPU练习AI可降降96%本钱

仁勋6本应战降降9U练习AI可NV黄钱

如果一样耗益11千兆瓦时的勋C习电量,NVIDIA尾席履止民黄仁勋停止了演讲  。降降将以仅3.2千兆瓦时的本钱电力耗益 ,

正在演讲中  ,GPU办事器能够或许以4%的本钱战1.2%的电力耗益去练习一个LLM ,

NV黄仁勋“应战”CPU:GPU练习AI可降降96%本钱

比拟之下 ,以为正在野生智能战减快计算那一将去圆背上 ,

换止之,一样以1000万好圆的本钱往组建GPU办事器散群 ,并耗益11千兆瓦时的电力 。那将带去巨大年夜的本钱节流。练习一个LLM大年夜发言模型 ,

而当用户仅仅念练习一个LLM大年夜模型时,则只需供一个40万好圆摆布 ,练习44个LLM大年夜模型。