会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 NVIDIA:GPU磨炼AI大模子可飞腾96%老本!

NVIDIA:GPU磨炼AI大模子可飞腾96%老本

时间:2024-11-20 01:30:36 来源:凯泽公子网 作者:知识 阅读:534次

克日新闻 ,磨模在适才召开的炼A老本2023年台北电脑展上 ,NVIDIA首席实施官黄仁勋妨碍了演讲。飞腾

在演讲中,磨模黄仁勋向传统的炼A老本CPU效率器集群建议“挑战”,以为在家养智能以及减速合计这一未来倾向上,飞腾GPU效率器有着加倍强盛的磨模优势。

凭证黄仁勋在演讲上揭示的炼A老本典型 ,磨炼一个LLM狂语言模子,飞腾将需要960个CPU组成的磨模效率器集群 ,这将破费约莫1000万美元(约合国夷易近币7070万元),炼A老本并破费11千兆瓦时的飞腾电力 。

比照之下  ,磨模同样以1000万美元的炼A老本老本去组建GPU效率器集群,将以仅3.2千兆瓦时的飞腾电力破费 ,磨炼44个LLM大模子 。

假如同样破费11千兆瓦时的电量  ,那末GPU效率器集群可能实现150倍的减速,磨炼150个LLM大模子 ,且占地面积更小 。

而当用户仅仅想磨炼一个LLM大模子时,则惟独要一个40万美元摆布  ,破费0.13千兆瓦时电力的GPU效率器即可 。

换言之 ,比照CPU效率器 ,GPU效率器可能以4%的老本以及1.2%的电力破费来磨炼一个LLM ,这将带来重大的老本节约 。

自 快科技

(责任编辑:综合)

推荐内容
  • 附加赛出局前途依旧光明,国王的目标不止是季后赛善恶终有报!54岁的尹相杰,已经活成了一个“笑话”
  • 原创            一个人打爆快船四巨头!东契奇狂轰44分,对快船10次40+历史最多
  • 国际足球 | 欧冠综合:皇马、拜仁提前出线  曼联戏剧性输球身体哪些部位不能乱亲?医生提醒:3个亲密“禁区”,切勿轻忽
  • 穆迪全场11中5,三分4中2患上到12分
  • 北青体育:步行者后卫以赛亚-王表示愿意为中国男篮效力
  • 马赛的地中海风情看了50岁孟晚舟的打扮,我悟了:发不披肩、裙不上膝,更优雅知性