英伟达的黄仁勋讲过一个“ai 五层蛋糕”,其实是金字塔结构。最底层是电,没电啥都干不

英伟达的黄仁勋讲过一个“AI五层蛋糕”,其实是金字塔结构。最底层是电,没电啥都干不了。往上依次是芯片、基建、模型和应用。去年GTC大会上,老黄拿着个蛋糕模型,笑着说AI就是五层蛋糕。我当时在酒店看直播,端着咖啡,感觉他又在卖GPU梦了。 先说最底层的电。数据中心一运转,电费就像流水一样烧。一个中等规模的AI训练集群,一天大概要烧掉几千度电。电对AI来说就像人体血液,缺了它上面全瘫痪。现在电网这么火,可能跟这有关系。产业链上,发电厂和变电站订单爆满。比如特斯拉的Dojo超级计算机,据说供电系统要定制,成本占到总投资的15%左右。 第二层是芯片,也就是GPU。我记得以前用AMD芯片和NVIDIA的A100做对比,速度快了30%以上。NVIDIA芯片兼容性好点,但价格贵一点。芯片就像汽车发动机,马力越大速度越快。不过散热和供电得跟上才行。台积电一家独大,NVIDIA得排队投片。去年听说项目推迟了几个季度,供应链确实有点卡脖子。 第三层是基建,比如数据中心和云平台。这层投资门槛高,建个标准数据中心动辄上亿美金。比如我去过阿里云园区,里面热得像蒸笼。用云服务像AWS或Azure时就能感受到这种基建支撑的力量。本地服务器上传大模型会卡顿,云端就顺滑多了。 模型层就是AI的大脑。训练神经网络就像教小孩认字,先喂海量数据再调参数。比如OpenAI的GPT系列靠底层算力堆出来的。有个同行说过,模型训练一轮得烧几百万GPU小时。没芯片基建模型就是空谈。 应用层就是咱们日常用的聊天机器人或自动驾驶软件。比如Tesla的Autopilot在雨天高速识别路标接管很稳。这个层变现快但bug多。比如Google Assistant比苹果Siri反应灵敏些。 现在我觉得这个五层蛋糕挺实在的:电稳了芯片转基建起模型醒应用活。未来十年底层电和芯片投资回报可能最高,年化20%以上。老黄切到底层那层时说:“电才是王道。”