大模型热到芯片暴涨,阿里百度成了英伟达的打工仔-微资讯

2023-04-18 22:02:32 来源: 手机网易网

文|《中国企业家》记者 闫俊文


【资料图】

编辑|李薇

图片来源|视觉中国

中国科技公司和创业者竞相追逐大模型,引发GPU芯片需求量的暴增,以及价格的疯狂上涨。

GPU是ChatGPT训练和部署的关键部件,这是强大算力的基础设施。根据公开消息,微软的Azure云服务为ChatGPT构建了超过1万枚英伟达A100 GPU芯片的AI计算集群。

千芯科技董事长陈巍告诉《中国企业家》,以A100芯片为例,从去年年底到现在,其单价涨了超过50%,从之前约5万元涨到了近10万元。由于A100已经被美国禁止售往中国内地,国内同行预估仅有3万枚存量。英伟达推出的A100替代版A800,国内厂商也是排队拿货,并且常常无货。

国内某大型服务器厂商的员工王石也感受到了这股浪潮。他告诉《中国企业家》,近期供应的压力比较大,包括英伟达等供应商的压力也比较大,但这并不代表错过了这一波就没有机会了,“相信今年年内供需回归到相对理性的水平”。

“我要给大家降温。这是一个突发的需求,大家不要着急,不是说我错过了这两个月或者三个月,我就失败了,远远没有到那个时候。”王石强调。

据《中国企业家》统计,除了阿里巴巴、百度等互联网巨头之外,商汤科技、昆仑万维、毫末智行、360等公司也官宣了自己的大模型,如果再加上王小川、王慧文、李开复等创业者,中国年内推出的大模型数量已经超过了10个。

一些行业人士预测,国内需要有8至20个大模型,比如生物医药计算、材料计算、化学计算、自动驾驶、气象等大模型,甚至未来四五十个也说不定。

算力、算法和数据构成了AI时代的三要素,而算力又是电力般的基础设施,有多少枚GPU,有多少算力,成为外界评估大模型研发和创业成败的关键。

在这一轮由ChatGPT掀起的大模型创业潮里,黄仁勋和英伟达成为了大赢家。

据统计,2020年,全世界跑AI的云计算与数据中心,80.6%都在用英伟达的GPU驱动。截至发稿,英伟达股价为270美元,比2022年9月时的低点119美元翻了一番,总市值为6669亿美元,成为美国第五大上市公司,比德州仪器、超威半导体(AMD)、高通、英特尔等芯片企业市值相加还要多。

五分之二的预算买算力

英伟达已经供不上货了。

近期,马斯克为推进推特内部的新AIGC项目,购买了大约1万枚GPU。从2022年末,微软就实行了GPU资源配额供给,但今年1月以来审批时间越来越长,如今部分申请需要等待几天甚至几周才能获批。同时,微软向英伟达预订的数万枚GPU芯片,交货无期。

2月份,出门问问CEO李志飞和美团联合创始人王慧文,讨论了大模型创业要花多少钱、入门门槛什么样。李志飞认为,门槛至少需要5000万美元,其中的2000万美元就是用来购买算力的。王慧文和李志飞不久前相继宣布在大模型领域创业。

根据陈巍测算,国内如果想要直接训练出一个ChatGPT3级别的大模型,常规最少需要1000枚A100级别的GPU芯片,而如果想要实际部署,不考虑冗余和响应速度,对于搜索引擎级别的服务,至少需要6000枚A100级别的GPU芯片。仅仅芯片一项,最小投入就到了近10亿元人民币。

一份流传的《阿里AI专家交流纪要》显示,百度年初紧急下单3000台8张芯片的A800服务器,这意味着需要2.4万枚A800,而预计全年百度会有A800和H800共5万枚的需求。阿里云预计在今年需要1万枚左右,其中6000枚是H800。此外,阿里云也会用到平头哥这种自研的芯片,每年采购大概3000枚。

2022年9月,英伟达发布H100型号GPU,但被美国禁止出口至中国,但英伟达怎会忍心错过中国的大模型热,为了出口,英伟达牺牲了部分性能,在今年推出了H800版本。

对照百度发布的文心一言,陈巍测算,按照国内成本估算单次应答成本5分钱,如果日访问量10亿人次,以月租价格评估,每天云计算成本约5000万元人民币,一个月将增加成本15亿元,一年增加成本180亿元,远远高于训练成本。此前媒体估算,ChatGPT光3月份的电费就得交近200万美元,这差不多跟27.5万中国居民一个月用电量相当。

《中国企业家》了解到,对于不缺钱的巨头来说,A100存储量也不多,未来采购以A800和H800为主,但仍需要V100等老式芯片补充。V100性价比高一些,在云上跑的成本是A100的三分之二左右,但运行速度较慢,如果是ChatGPT4级别大模型就不够用了。

也就是说,要想大模型算得更快、更准,必须适配最先进的GPU芯片。虽然拿不到最先进的GPU,但大模型玩家依然在积极囤货。按照上述数字估算,国内对A800以及H800的需求已经到了数十万级别。

王石说,目前来看,对于算力的需求可以说是上不封顶,有多少算力,都希望能够投身进来,“只能这么说,越多越好”。

仅仅靠资本似乎已经玩不转了,大模型之战,最后结局可能还是巨头之间的游戏。

一位头部投资机构的负责人告诉《中国企业家》:“创投界这点资本是不值一提的,资本它对整个行业的格局不造成影响,本来就这点钱也投不起,中国这几个VC加上PE,今年不在ChatGPT上投下10亿、20亿美元,水漂都打不起来,做不了几个训练级,但是百度和华为如果愿意在上面努力去做的话,我觉得投得起。”

瘸腿奔跑的中国大模型

不管是阿里巴巴、腾讯、百度等巨头,还是王慧文、王小川等创业者,他们不得不戴着枷锁跳舞:一方面,迫于美国的芯片禁令,他们得不到最先进的芯片源源不断的支持;另一方面,他们还要追赶国外已经到了ChatGPT4水准的技术。

陈巍感慨中国AI企业的不易。如果得不到国外先进的芯片,中国企业只能使用比较老旧或者工艺成熟但不那么先进的芯片,综合性能可能只有A100的60%,数量需要更多,跑得却更慢,综合成本要高出20%至30%,对于企业来说,这很有可能是赚钱和不赚钱的分水岭,活下去和活不下去的分水岭。

处处受限,起步又晚,但大模型也得干下去。

王小川在接受媒体采访时说,晚了也得干。美国人之前把核弹造出来,中国就不造了吗?这跟创业公司本身没关系,是中国要不要做的问题。

王石认为,中国企业没必要“芯片焦虑”。他提到了前几年“挖币”造成的硬盘泡沫,结果造成了SSD(硬盘)的一地鸡毛,整个硬盘厂商在2022年整年可能都在消耗库存。

GPU只是大模型创业链条中的一环,机房环境、算法、人才等等也必须配套跟上。

IT设备特别是计算设备的迭代和更新太快,如果在没有准备好的时候,放在库房里没有用,放一年,价值就浪费了。“现在都在用A800,今年下半年就有H800,性能提升很快,这个时候抢到了A800,但如果还没有用起来,是没有价值的,永远会有新产品出来。”王石表示。

王石还补充说,现阶段,算力的供应无论如何是不够的。这有两个策略,一个是把后台的产能跟上,另一个则是优化效率,通过算法等技术手段提升可用算力的效率。

英伟达成最大赢家

阿里和腾讯近期在算力市场都有重大动作。

阿里云在4月11日峰会上说,阿里云进行有史以来最大幅度的一次降价,通用计算将大幅降低,对比上一代主售产品最高可下降40%,还发布了“飞天免费试用计划”,开放计算存储、数据库、机器学习等核心产品免费试用。

腾讯则发布了新一代高性能计算集群HCC,采用了国内首发的英伟达H800 GPU。有数据称,腾讯云新一代集群的算力性能较前代提升高达3倍,是国内性能最强的大模型计算集群。

不管哪家,他们都摆脱不了一个名叫英伟达的厂商,其创始人黄仁勋,江湖人称“黄教主”,他多次为此次ChatGPT浪潮鼓风。

“我们正处于AI的iPhone时刻。”黄仁勋在3月2023年GTC大会上说,“初创公司正在竞相打造颠覆性产品和商业模式,科技巨头也在寻求突破。”

在此次大会上,黄仁勋发布了ChatGPT专用芯片H100,而且他宣布,将会把由八块旗舰版A100或H100芯片集成的超级AI计算系统通过租赁的方式开放给企业。每月租金为37000美元,以加速推动这轮大语言模型引领的AI繁荣。

外媒一份数据显示,英伟达占据了95%图形处理器的市场份额。IDC数据显示,国内GPU服务器在2021年占国内服务器市场规模的比例超过88.4%,英伟达的产品占比超80%。

联想集团CTO芮勇说,目前来看,还是英伟达的天下,但未来不确定,因为大家对算力的需求只会越来越大。

行业人士说,未来GPU和算力的需求一定是多元的,或者说异构的。到了现在算力需求大爆发的时候,带来的第一个变化就是在这个领域多元化的蓬勃发展。

水大鱼大,但虾米和浮游生物等也会有存活机会。多元带来了更多的机会,但是最后谁能胜出,就看谁的战略定力,能持续地投入。

(应采访对象要求,文内王石为化名)

标签:

上一篇 :

下一篇 :

大模型热到芯片暴涨,阿里百度成了英伟达的打工仔-微资讯

GPU不够用了。文|《中国企业家》记者闫俊文编辑|李薇图片来源|视觉中国中国科技公司和创业者竞相追逐大

04-18 22:02:32

天天速讯:中共中央印发《中央党内法规制定工作规划纲要(2023-2027年)》

据新华社北京4月18日电近日,中共中央印发了《中央党内法规制定工作规划纲要(2023-2027年)》(以下简称

04-18 21:11:48

实时:北方或迎今年第十次沙尘天气具体详细内容是什么

北方或迎今年第十次沙尘天气今天的热度非常高,现在也是在热搜榜上了,那么具体的北方或迎今年第十次沙尘天

04-18 21:13:47

黄石等17地新晋上榜 湖北省生态文明建设示范市增至84个 热资讯

黄石等17地新晋上榜湖北省生态文明建设示范市增至84个---湖北日报讯(记者胡弦、通讯员李斌)近日,省环委

04-18 20:47:40

新资讯:中原证券给予中国电信增持评级 天翼云收入翻番 加大产业数字化投资

中原证券04月18日发布研报称,给予中国电信(601728 SH,最新价:7 08元)增持评级。评级理由主要包括:1)

04-18 19:32:08

【IT之家开箱】TCL X11G 图赏:5000 尼特加持,亮出你的 HDR

拓展接口方面,TCL85X11G将用户最常用的USB3 0接口移到了中框区域,保证接口传输速度的同时,大大提高用户

04-18 19:30:42

环球快资讯:转折中的消费金融:发展与责任

从行业实际来看,当前亟需一套权威、简明的消费金融行业服务标准,让消费者可感知、可参考,进一步涤除不合

04-18 18:52:13

“共享厨房”引争议 民间慈善之路如何走?-当前简讯

“共享厨房”引争议民间慈善之路如何走?---郑州“共享厨房”事件迎来官方通报。公益与生意是否应该“绝...

04-18 18:13:02

全球热点评!韦尔股份:一季度净利润同比减少77.81%

【韦尔股份:一季度净利润同比减少77 81%】韦尔股份公告,一季度净利润1 99亿元,同比减少77 81%,主要系销

04-18 18:01:39

中方是否有从苏丹撤侨的方案?外交部回应 微资讯

导读:1布林肯称中国必须表现出继续与美国接触的意愿,我外交部回应2外交部回应G7联合声明涉华表态:强烈不

04-18 17:36:16

Midjourney V5详细使用教程:包含6种风格,41个案例提示

MidjourneyV5详细使用教程:包含6种风格,41个案例提示

04-18 17:30:42

新动态:天津人艺创排津味儿故事 话剧《爱的嘎巴菜》下月“上桌”

天津人艺创排津味儿故事话剧《爱的嘎巴菜》下月“上桌”

04-18 16:59:34

捷尼赛思G90预售71.8万元-118.8万元!比奔驰S级大 全球热门

4月18日,捷尼赛思全新旗舰级轿车G90在中国市场开启预售,价格区间为71 8万元-118 8万元。新车分为普通版和行政

04-18 16:46:39

肌肉猛男or嘴炮输出实力boy?唐三藏的这种反差你爱了吗_天天实时

喜欢国漫的小伙伴们对《西行纪》应该都不陌生,无论是画风还是故事情节,《西行纪》都能称得上是国漫中的经

04-18 16:10:44

来不及说爱你_歌词-环球报资讯

来不及说爱你作词∶吴梵作曲∶吴梵演唱:李翊君芝政士回答,版权必究,第未经许可,不新员县得转载想为你赢

04-18 16:09:15

COS写真精选|蠢沫沫-碧蓝航线_每日快讯

欢迎大家一键三连,点赞投币收藏加关注!有求必应,欢迎来探讨一定有回复!关注关注关注!重要的事情说三遍

04-18 15:40:02

【天天聚看点】第一次去女方家带什么东西_第一次去女方家带什么

你们好,最近小未来发现有诸多的小伙伴们对于第一次去女方家带什么东西,第一次去女方家带什么这个问题都颇

04-18 15:15:04

安徽省造老银元价格(2023年04月18日) 当前滚动

金投白银网提供安徽省造老银元价格(2023年04月18日),安徽银元最新消息(2023年04月18日)。

04-18 14:56:11

专注原料药及中间体 富士莱2022年净利润增长47.51% 天天时讯

4月17日晚,富士莱发布年报,2022年,归属于母公司所有者的净利润1 77亿元,同比增长47 51%;营业收入5 68

04-18 14:36:23

当前快看:城市核电站:嘉兴第一城,深圳年发电485亿度,大连呢?

核电,一种以核反应为热力源的、用热蒸汽推动发电机运行的发电方式。从原理上讲,这跟用柴火烧开水发电没啥

04-18 13:30:48

廊坊地面停车场划线工程-香河县热熔车位标线怎么收费的

廊坊地面停车场划线工程-香河县热熔车位标线怎么收费的天津海林交通设施有限公司,是集设计开发、生产、销

04-18 12:09:33

国家统计局:3月社会消费品零售总额同比增长10.6%

【大河财立方消息】4月18日,国家统计局公布一季度经济运行情况。3月份,社会消费品零售总额37855亿元,同

04-18 11:40:34

孩子王:公司将积极参加本次广交会,并密切关注广交会上的优质参展商品

孩子王(301078)04月18日在投资者关系平台上答复了投资者关心的问题。

04-18 10:44:14

多尼克f1价格 多尼克f1

1、我用的是尼塔库的小提琴横板,正手配大巴相当好用,反手我用过大巴和F3,这两款用反手都不好用,反手配

04-18 10:11:16

台湾政治学者:美国霸权加剧台海局势动荡

新华社台北4月17日电(记者章利新 尚昊)台湾“民主文教基金会”16日举行主题为“美国霸权的衰退和堕落...

04-18 08:36:39

原耽中的ky是什么意思_原耽中ky是什么意思

1、第一种:道友2、《魔道祖师》还是连载网文时,喜欢这本书的书迷,就被称为道友了;就像刚刚所说的,道友

04-18 07:16:23

全球动态:最容易动真心的星座“渣男”

白羊的好感值下降速度也是十分的惊人,为此,如果你真的想要跟白羊男能够有一种持久的相处模式,你就要对他

04-18 05:57:32

木林森:2022年度净利润约1.94亿元,同比下降83.27%

每经AI快讯,木林森(SZ002745,收盘价:9 46元)4月17日晚间发布年度业绩报告称,2022年营业收入约16

04-18 01:37:16

红网夜读|世界如一面镜子

play用声音传递温暖,欢迎收听红网夜读,我是田萌,田野的田,萌芽的萌。塞穆尔说:“世界如一面镜子:...

04-17 21:59:52

精选!第一局巅峰?20胜三镇海港不仗义:亚冠成男足世界杯试金石

2:0击败卫冕冠军,上海海港在客场完美展现实力。可以说本赛季海港的首次亮相是符合预期的,这场比赛堪称是

04-17 20:59:21

百亿票房奇迹,73天打破宫崎骏纪录,《鬼灭之刃》无愧神作 天天热头条

而上弦之叁猗窝座在成为无惨帮凶之前,不过也是一个有着幸福生活的普通人,他乐于助人,不以自己的力量去欺

04-17 19:47:46

每日热门:拟用'AI'投资?量化巨头最新回应:不是用来炒股的!

拟用 & 039;AI & 039;投资?量化巨头最新回应:不是用来炒股的!:据券商中国,近日,幻方发布公告...

04-17 18:37:03

蔬菜强县进击,“兰陵经验”如何赋能产业

作为“山东南菜园”,兰陵的蔬菜种植面积超过120万亩,年产量500万吨,是全国重要的蔬菜生产、疏通集散...

04-17 17:32:34

环球速看:长沙 | 金井镇:采茶“趣”!家门口的“自然课堂”

4月15日,长沙县金井镇王梓园村新时代文明实践站联合农家书屋、儿童之家组织辖区内留守儿童、困境儿童共10

04-17 16:43:02

上海艾录(301062)4月17日主力资金净买入165.07万元-观速讯

截至2023年4月17日收盘,上海艾录(301062)报收于9 58元,上涨1 27%,换手率0 94%,成交量2 24万手,成交额2134 94万元。

04-17 15:59:55

wps设置格式图标的方法

wps是我们在办公时必不可缺少的应用之一,最近有用户咨询wps怎么设置格式图标?针对这个问题,下面小编就给

04-17 15:12:06

【天天时快讯】当日快讯:中宠华大辐照中心正式投入使用

4月17日,据中宠股份官微消息,4月15日,中宠华大辐照中心正式投入使用。据介绍,2022年4月,中宠华大辐照

04-17 14:12:31

全球要闻:2022年度杭州社保缴费工资基数申报口径一览

2022年度杭州社保缴费工资基数申报口径职工工资收入按国统局法规的工资总额统计口径填报,用人单位须对2021

04-17 12:46:56

四会市行政中心办居住证电话_四会市行政中心-环球精选

1、没有公交车,先转到汽车站,再坐汽车到四会公交:肇庆学院到肇庆客运总站本数据来源于百度地图,最终结

04-17 12:02:36

浙江海洋大学圆满完成2023年硕士研究生复试录取工作 世界快消息

根据教育部《2023年全国硕士研究生招生工作管理规定》《关于做好2023年全国硕士研究生复试录取工作的通知》

04-17 10:57:47

Uber实践:运维大型分布式系统的一些心得

本文是Uber的工程师GergelyOrosz的文章,原文地址在:https: blog pragmaticengineer com operati

04-17 10:27:13

富春股份4月17日快速反弹_全球快看

以下是富春股份在北京时间4月17日09:42分盘口异动快照:4月17日,富春股份盘中快速反弹,5分钟内涨幅超过2%

04-17 09:20:27

环球通讯!预售价21.99-33.99万元 昊铂Hyper GT开启预售

在2023上海车展开幕前夕,昊铂HyperGT公布了预售价格为21 99-33 9万元。据悉,新车为广汽埃安旗下全新独立

04-17 08:38:25

微资讯!胡家福:下足管理“绣花功” 画好城市“工笔画” 让各族群众感受身边新变化享受美好新生活

4月15日,省委常委、州委书记胡家福到延吉市就“绿美延吉”行动、城区改造提升、城建重点项目进展等情况...

04-17 07:04:13

都市赛车5

1、都市赛车5是一款由Gameloft制作并发行的赛车游戏。2、拥有高质量的画面效果、音效以及更多的超级跑车,

04-17 04:56:53

【全球快播报】2023年4月16日山东省十水硼砂价格最新行情预测

据中国报告大厅对2023年4月16日山东省十水硼砂价格最新走势监测显示:2023年4月16日山东省十水硼砂(含量95%)

04-16 23:17:16

诺辉健康发布首份常卫清用户数据报告:阳性且肠镜检出异常者83.2%为癌前病变-世界聚焦

读创 深圳商报记者赵鸿飞2023年4月15日-21日是第29个全国肿瘤防治宣传周。4月15日,诺辉健康发布首份常卫清用

04-16 21:17:43

节会成为文旅“推介官” 长沙市第二届“花粉节”在圭塘河畔启幕 天天快看点

节会成为文旅“推介官”长沙市第二届“花粉节”在圭塘河畔启幕

04-16 19:14:22

“那就好好告个别吧”!-环球快看点

00:304月16日,刚刚从玉溪火场撤下来的云南省森林消防总队昆明支队新闻报道员张玉超含泪告别家人,即将奔赴

04-16 17:34:57

氧化铁脱硫剂商品报价动态(2023-04-16) 每日速递

交易商品牌 产地交货地最新报价氧化铁脱硫剂 规格φ(3-5)*(3-15),除臭,沼气脱硫河南凯捷水处理有限

04-16 15:48:09

天天速讯:中共中央印发《中央党内法规制定工作规划纲要(2023-2027年)》
实时:北方或迎今年第十次沙尘天气具体详细内容是什么
黄石等17地新晋上榜 湖北省生态文明建设示范市增至84个 热资讯
新资讯:中原证券给予中国电信增持评级 天翼云收入翻番 加大产业数字化投资
【IT之家开箱】TCL X11G 图赏:5000 尼特加持,亮出你的 HDR
环球快资讯:转折中的消费金融:发展与责任
“共享厨房”引争议 民间慈善之路如何走?-当前简讯
全球热点评!韦尔股份:一季度净利润同比减少77.81%
中方是否有从苏丹撤侨的方案?外交部回应 微资讯
Midjourney V5详细使用教程:包含6种风格,41个案例提示
新动态:天津人艺创排津味儿故事 话剧《爱的嘎巴菜》下月“上桌”
捷尼赛思G90预售71.8万元-118.8万元!比奔驰S级大 全球热门
肌肉猛男or嘴炮输出实力boy?唐三藏的这种反差你爱了吗_天天实时
来不及说爱你_歌词-环球报资讯
COS写真精选|蠢沫沫-碧蓝航线_每日快讯
【天天聚看点】第一次去女方家带什么东西_第一次去女方家带什么
安徽省造老银元价格(2023年04月18日) 当前滚动
专注原料药及中间体 富士莱2022年净利润增长47.51% 天天时讯
当前快看:城市核电站:嘉兴第一城,深圳年发电485亿度,大连呢?
廊坊地面停车场划线工程-香河县热熔车位标线怎么收费的
国家统计局:3月社会消费品零售总额同比增长10.6%
孩子王:公司将积极参加本次广交会,并密切关注广交会上的优质参展商品
多尼克f1价格 多尼克f1
台湾政治学者:美国霸权加剧台海局势动荡
原耽中的ky是什么意思_原耽中ky是什么意思
全球动态:最容易动真心的星座“渣男”
木林森:2022年度净利润约1.94亿元,同比下降83.27%
红网夜读|世界如一面镜子
精选!第一局巅峰?20胜三镇海港不仗义:亚冠成男足世界杯试金石
百亿票房奇迹,73天打破宫崎骏纪录,《鬼灭之刃》无愧神作 天天热头条
每日热门:拟用'AI'投资?量化巨头最新回应:不是用来炒股的!
蔬菜强县进击,“兰陵经验”如何赋能产业
环球速看:长沙 | 金井镇:采茶“趣”!家门口的“自然课堂”
上海艾录(301062)4月17日主力资金净买入165.07万元-观速讯
wps设置格式图标的方法
【天天时快讯】当日快讯:中宠华大辐照中心正式投入使用
全球要闻:2022年度杭州社保缴费工资基数申报口径一览
四会市行政中心办居住证电话_四会市行政中心-环球精选
浙江海洋大学圆满完成2023年硕士研究生复试录取工作 世界快消息
Uber实践:运维大型分布式系统的一些心得
富春股份4月17日快速反弹_全球快看
环球通讯!预售价21.99-33.99万元 昊铂Hyper GT开启预售
微资讯!胡家福:下足管理“绣花功” 画好城市“工笔画” 让各族群众感受身边新变化享受美好新生活
都市赛车5
【全球快播报】2023年4月16日山东省十水硼砂价格最新行情预测
诺辉健康发布首份常卫清用户数据报告:阳性且肠镜检出异常者83.2%为癌前病变-世界聚焦
节会成为文旅“推介官” 长沙市第二届“花粉节”在圭塘河畔启幕 天天快看点
“那就好好告个别吧”!-环球快看点
氧化铁脱硫剂商品报价动态(2023-04-16) 每日速递
贵州省石仟县人民政府通讯地址_贵州省财政学校地址_当前报道
X 广告
资讯
X 广告

Copyright ©  2015-2022 华南畜牧网版权所有  备案号:粤ICP备18025786号-52   联系邮箱: 954 29 18 82 @qq.com