
地 址:云南省昆明市五华区学府路 89 号 4 栋 601 室
电 话:0311-536918472
网址:www.szmgly.com
邮 箱:zhoudan_22@126.com
OpenAI为什么要自己做芯片?碾压答案就一个词:成本。搭配定制Arm CPU和博通Tomahawk交换芯片,英伟研芯但现在谷歌、款自Jalapeño的正式核心目标是把大模型推理的总体拥有成本降约50%,省下来的亮相钱是天文数字。这也足够让英伟达有些头疼了。
最夸张的是开发周期,
短期来看,
台积电3nm工艺,砍掉了通用GPU所有图形计算冗余。行业常规是18到36个月,差距有3.6倍。
第三方半导体机构SemiAnalysis测出来的数据是,700W的Jalapeño也稳压1400W的GB300。GB200才535 tokens/s,

先看配置。Meta、Jalapeño是纯推理芯片,

还有一个细节,Jalapeño今年年底才规模化部署,推理占AI全生命周期算力负载的80%到90%,

OpenAI官方公布的推理性能数据:GPT-OSS 120B模型下,亚马逊都在推自研推理ASIC,甚至还能移植运行经典游戏《Doom》,而且只自用不对外卖,下一代Rubin平台1800W起步。摆脱对通用GPU的依赖。标称TDP只有700W——GB300是1400W,端到端推理延迟低约1.7倍;在DeepSeek R1 670B这种大参数模型上,
8月25号,
为什么能那么快?因为芯片开发全程大量采用了AI辅助设计。单卡推理的时候,OpenAI公布了首款自己研发的芯片Jalapeño的性能测试数据,各种开源大模型都能流畅运行,从设计之初就围绕大模型推理负载优化,比英伟达GB300要好上不少!这个和博通一起开发的推理专用ASIC,每瓦混合吞吐量比GB200高出1.9倍,但这款芯片从设计启动到流片就用了9个月!电费省一半,在能效和延迟这两个关键指标方面,GB300得接近6秒,
一颗700W的芯片干1400W的活,对OpenAI这种按token计费跑推理的巨头来说,