超节点，即物理上由多台设备组成，逻辑上以一台机器学习、思考、推理，即通过Scale-up而获得远超Scale-out的卡间互联带宽。因此，超大规模的超节点是大模型训练最理想的工具。


当前，全球大厂均已先后布局超节点产品，英伟达已展出其72卡、144卡、576卡的超节点路径，华为也亮相384卡、8192卡、15488卡的超节点方案。超节点将成为算力的主流形态，意味着在未来，算力需求方的采购，将逐渐以超节点为单位，而不是GPU卡。


沿着以上产业趋势，我们以超节点为研究对象，对相关问题展开分析梳理。


免责声明：本网站提供的所有数据及资讯（包括第三方机构提供的信息）仅作交流学习及参考用途，不构成任何投资建议或交易要约‌。