随着工艺越来越逼近物理极限，摩尔定律渐微，从Nvidia的芯片从H100开始，每一代芯片，单位面积的性能提升不到15%，并且往后演进3nm、2nm、1nm每一代的红利收益均不会超过15%。未来二十年的主要矛盾是：半导体工艺无法满足AGI日益增长的算力需求。怎么办？ 系统施策，俗称摊大饼，将成为提升算力的主要路线：a）持续加大HBM内存容量；b）持续提升互联带宽，从而提高GPU的并发度；c）持续提升集群规模，从而提升系统容量；d）持续提升散热能力，给摊大饼创造条件；…
AGI算力基建在Scaling-Law和Moore-Law的剪刀差中艰难前行
1、需求曲线，遵循Scaling-Law，AGI需求呈指数级增长（10x）
2、供给曲线，遵循Moore-Law，IT硬件的成本下降速度遵循幂律（½X）
很多人对这个剪刀差没有概念，我举一个具体的例子。Nvidia的B100 GPU芯片，其中GPU die的成本大概160美金，HBM颗粒大概1300美金，3D封装大概720美金，如果把NVLink的互联成本180美金也算进来， 你就会发现，大家念叨最多的GPU die反而是整个系统中最便宜的部件！