新闻发布会ppt 奥特曼百万年薪挖角谷歌TPU东谈主才,OpenAI自研芯片最新进展曝光

发布日期:2024-06-13 07:27    点击次数:132

李宇来自南方某锂电厂商,品牌和规模都不大。这两年,公司也跨进储能大门,并于去年开始着重开发工商业储能市场。他负责广东区域。

新智元报谈

剪辑:乔杨 好困

【新智元导读】OpenAI自研芯片的野心终于看到了实质性进展。左证SemiAnalysis最近的一篇著述,他们正从谷歌TPU团队招募东谈主才,扩张我方的芯片研发组。

OpenAI在芯片方面的贪图传说已久。

目睹了频年来PC和AI行业两次要紧的半导体供应危急之后,Sam Altman似乎合计台积电、三星代工和英特尔代工这些传统的芯片制造商莫得敷裕的产能,弗成得志民众对AI芯片迅猛增长的需求。

不单是是OpenAI的算力需要减少对英伟达芯片的依赖,奥特曼以致还但愿建造更多的晶圆厂,不错踏实供给其他公司。

左证华尔街日报的报谈,本年2月,奥特曼会见软银CEO和台积电的研讨代表,盘考合股事宜,野心在改日几年内共同建造和运营数十座芯片制造工场。

TSMC在亚利桑那州的在建工场

关联词,造芯片要烧的钱比拟历练大模子,只会少不会多。

左证奥特曼本东谈主的猜测,要建造新的半导体制造建立和关联基础步伐,成本可能高达5-7万亿好意思元。

由于传统的私东谈主风投很难一下子拿出这样多资金,奥特曼也曾找到好意思国商务部长盘考,以致远赴新加坡和阿联酋会见当地官员,念念寻求国有成本的维持。

经过了半年多的计算和发酵,OpenAI的芯片作事似乎确实要起步了!

芯片东谈主才大战,谷歌 vs. OpenAI

据SemiAnalysis的最新报谈,OpenAI最近启动大界限招募,野心将唯有几个东谈主的芯片团队扩张到几十个东谈主。

何况,他们延续了招聘东谈主才的一贯计谋——挖角谷歌。

新近招募的险些通盘不息东谈主员,齐是现任或前任的谷歌TPU团队成员。

不同于当先为图形处理和及时渲染瞎想的GPU,TPU是谷歌从新瞎想的,有益用于加快机器学习和神经网罗的缱绻,莽撞更出色地贬责张量运算问题。

GPU以ALU(高等算术逻辑单位)看成中枢组件,而TPU的中枢是矩阵乘法器单位(MXU),莽撞以很高的蒙胧量持行矩阵乘法和累加。

谷歌TPUv4

天然TPU的任务通用性不如GPU,尤其是莫得CUDA这样的编程接口,但在运算性能和动力成果方面进展出色,尤其是那些经过谷歌团队非凡优化的任务。

因此不错说,TPU是天下上性能/TCO(总体领有成本)最优的机器学习基础步伐。

天然谷歌的TPU仍是有如斯高的树立,然则OpenAI芯片团队的职责契机依旧有多方面的招引力。

启程点是大公司和创业公司在发展速率上的施行各异。

TPU初度发布是在2013年,到本年5月最新推出的TPUv6,团队仍是有了十多年开辟训戒。珠玉在前,系统瞎想和微架构很难有较大变动,更多的是迭代性、渐进式的校正。

加入OpenAI则不同,在从新启动瞎想、开辟的经过中,成员们有契机尝试转换革、更激进的步伐。

何况OpenAI一向唯利是图,他们的想法是构建由数百万个加快器构成的系统,这比GPT-4的历练还要大好几个数目级。

此外,团队结合情势也有很大的分袂。

在强枝弱本的谷歌,天然TPU团队也会和DeepMind结合,但依旧会遭遇不少非技艺方面的按捺。

比拟之下,OpenAI里面的芯片和模子团队之间,疏导与结合会更为雅致顺畅。

除了这些,天然也有薪酬的各异。

施行上,Google TPU团队仍是是半导体瞎想领域中薪酬最高的团队之一,工程师的平均收入远高于AMD、英特尔、高通等大大批半导体公司,能和行业龙头英伟达并列。

OpenAI的基本工资天然没那么丰厚,但看成未上市的创业团队,每年向高等工程师提供的价值数百万好意思元的股权愈加诱东谈主。

有了这几重成分的重迭,再加上CEO奥特曼本东谈主亲身参与了大部分的招聘职责,OpenAI招募到的东谈主才质地令东谈主惊叹。

GPT-4o和Sora模子发布时,团队成员布景、才气之强悍总能惊艳到网友。

SemiAnalysis的记者向同业探访这些被挖角的TPU东谈主才时,总能得到这样的回复,「他们是我结合过的最佳的工程师之一」。

OpenAI之是以对准谷歌的TPU团队,既是但愿得到起初进的技艺和东谈主才,也相似有买卖竞争上的考量。

在硅谷的繁密科技巨头中,唯有谷歌研发的TPU能告捷替代英伟达的芯片,并部署在公司里面的云就业中。

สล็อต

Meta、亚马逊和微软等公司天然也在自研芯片方面作念了好多奋力,但依旧严重依赖英伟达。

在改日畸形长的时刻内,AMD和英伟达等半导体公司将依旧是OpenAI的结合伙伴,因此平缓得罪不起。

唯有面临天生的死怨家——谷歌,OpenAI才敢如斯放诞不羁地挖角。(连发布会齐要抢在谷歌I/O大会前一天开)

天然仍是赢得了如斯刚劲的东谈主才团队,然则芯片研发依旧需要付出庞杂的奋力。

预测要到2027年底,OpenAI才能推出第一代自研芯片。在那之前,他们依旧会十足依赖商用芯片。

与微软相关迟缓玄机

OpenAI自研芯片的决议有些让东谈主摸不到头脑。背靠微软的资金和Azure云就业的刚劲算力,为什么要烧钱自研芯片?

施行上,OpenAI的与微软之间的相关仍是愈发病笃,因为关于微软而言,OpenAI是一家结构终点歪邪的公司。

现在,它施行上依旧是一家十足安然的非渔利组织,由OpenAI Nonprofit不休。微软看成无投票权的董事会不雅察员,险些无法放胆OpenAI的发展走向。

淌若因为AGI安全问题,OpenAI董事会要求中止公约、收回模子的使用权,微软就只可乖乖听命,毫无还手之力。

AGI从通盘的买卖和常识产权许可公约均分割开来。

董事会决定咱们何时放胆AGI。再次强调,AGI指的是一种高度自治的系统,在最具经济价值的职责中优于东谈主类进展。此类系统不包括在与微软订立的IP许可和其他买卖条件中,这些条件仅适用于AGI之前的技艺。

因此,两方面齐在持行我方的「脱钩」野心。

OpenAI需要在芯片和算力方面迟缓安然,微软在试图减少对OpenAI模子的依赖。

比如微软近期投资Inflection AI,以及自行组建团队开辟Phi-3、MAI-1等模子,齐是出于这方面的考量。

现在,许多企业用户通过Azure使用OpenAI的技艺,包括逾越65%的《金钱》500强公司。

微软但愿领有自研的GPT-4级别LLM,以及得志不同用户需求的一系列模子,以便在Azure的推理就业中替换掉OpenAI。

关于OpenAI来说,念念要在算力方面自力新生,购买英伟达芯片的成本过高,并不是最佳的采用。因此,自研芯片似乎是惟一出息。

施行上,不单是是OpenAI,Meta、微软、谷歌和亚马逊等公司也齐在纵脱投资,开辟我方的AI加快器。

这些AI巨头一边是英伟达最大的客户,一边也成为最有劲的竞争敌手。

毕竟,在模子历练的经过中,算力仍是成为占比最大的开销。淌若能将购置芯片的资金逶迤为里面进入新闻发布会ppt,以制形成本部署GPU或TPU,模子的成本也将大幅下落。