英伟达CEO老黄在GTC大会上所说的“AI五层蛋糕”,其实就是个金字塔结构。最底层是电力,这个基础没了,一切都无从谈起。第二层是芯片,也就是老黄最宝贝的GPU。这玩意儿和汽车发动机一样,算力越大,跑得越快。不过除了马力足,散热和供电也得跟上。我以前做实验时用过AMD的芯片对比,NVIDIA的A100跑深度学习任务快了30%以上,AMD虽然便宜点,但兼容性差点意思。虽然台积电在芯片制造上一家独大,但短期内量子计算还没起来,所以GPU在短期内还是最核心的算力源。 第三层是基础设施,像数据中心和云平台。这一层门槛很高,一个标准的数据中心动辄就要上亿美元的投资。阿里云园区里热得像蒸笼,空调功率得几百千瓦。数据中心里工程师们拉着线缆,风机嗡嗡作响。这种场景挺热闹的。有了这些基础设施才能支撑起像AWS和Azure这样的云服务。以前我用本地服务器上传大模型时总卡顿,换到云上就顺滑多了。不过云端的带宽费用会贵一点。 第四层是模型层,这是AI的大脑。就好比教小孩认字一样,先喂大量数据再调整参数。OpenAI的GPT系列就是靠底层算力堆出来的。有个同行工程师跟我说过,模型训练一轮就得烧几百万个GPU小时。你看老黄的蛋糕结构就知道了没芯片基建和模型就是空谈。去年GDPR法规出来后影响了好几家公司的进度,数据隐私一紧训练成本就翻倍。 最顶层就是应用层了,像聊天机器人和自动驾驶软件。特斯拉的Autopilot自动变道确实挺吓人的一次雨天高速体验让我印象深刻。Google Assistant反应灵敏些Siri总慢半拍。直觉上一个AI应用的生命周期大概3-5年迭代一次吧算力需求翻倍能耗成本跟着涨。 你觉得应用层最缺啥?是创意还是安全? 老黄的五层蛋糕听着简单其实层层递进非常稳。电力稳定了芯片才能转基础设施起来了模型才能醒过来应用才能活起来。 个人感觉未来十年底层电力和芯片的投资回报最高大概有20%以上不过这只是我的个人体感。 老黄在台上切蛋糕时台下投资人眼睛都亮了他切到底层那一层的时候顿了顿说:“电力才是王道。”