会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 NVIDIA:GPU磨炼AI大模子可飞腾96%老本!

NVIDIA:GPU磨炼AI大模子可飞腾96%老本

时间:2024-11-01 05:51:35 来源:洗髓静容网 作者:娱乐 阅读:683次

克日新闻,磨模在适才召开的炼A老本2023年台北电脑展上,NVIDIA首席实施官黄仁勋妨碍了演讲 。飞腾

在演讲中 ,磨模黄仁勋向传统的炼A老本CPU效率器集群建议“挑战”,以为在家养智能以及减速合计这一未来倾向上,飞腾GPU效率器有着加倍强盛的磨模优势 。

凭证黄仁勋在演讲上揭示的炼A老本典型,磨炼一个LLM狂语言模子 ,飞腾将需要960个CPU组成的磨模效率器集群,这将破费约莫1000万美元(约合国夷易近币7070万元) ,炼A老本并破费11千兆瓦时的飞腾电力。

比照之下,磨模同样以1000万美元的炼A老本老本去组建GPU效率器集群 ,将以仅3.2千兆瓦时的飞腾电力破费,磨炼44个LLM大模子。

假如同样破费11千兆瓦时的电量 ,那末GPU效率器集群可能实现150倍的减速 ,磨炼150个LLM大模子  ,且占地面积更小 。

而当用户仅仅想磨炼一个LLM大模子时 ,则惟独要一个40万美元摆布,破费0.13千兆瓦时电力的GPU效率器即可   。

换言之 ,比照CPU效率器,GPU效率器可能以4%的老本以及1.2%的电力破费来磨炼一个LLM ,这将带来重大的老本节约。

自 快科技

(责任编辑:焦点)

推荐内容
  • 还踢什么?上海上港直接冠军!张琳芃飞铲未红牌,球员明天骨裂!艳丽的色彩,性感迷人中带有温婉妖娆的美女油画︱皮诺·德埃尼
  • 30分+32分,76人轰然倒下!恩比德六犯离场,东部黑马4连胜“一尿成名”任素汐:上半身是平凡,下半身是贪婪,又丑又性感
  • 泰晤士:英超8队投票反对于了防止分割关连球队冬窗租借球员的提案
  • 港股公告掘金 | 第三季度净利同比大增182.9% 造车业务是加分项身体哪些部位不能乱亲?医生提醒:3个亲密“禁区”,切勿轻忽
  • 高歌猛进!湖人迎来三连胜升至西区第四,距离第二仅差0.5个胜场
  • 西甲开绿灯!巴萨计划:4000万若到账,冬窗引进2大强援