外星人S博士
Meta首席执行官马克·扎克伯格在周三表示，公司最新的Llama模型正在一个规模前所未有的GPU集群上进行训练。扎克伯格在财报电话会议上透露，Llama 4的开发正在顺利进行，预计将于明年初首次发布。 他表示：“我们正在一个超过100,000个H100的集群上训练Llama 4模型，这个规模是我见过的其他机构所做的最大。他补充道：“我预计较小的Llama 4模型会首先准备好。 随着计算能力和数据规模的增加，众多专家认为这是开发更强大AI模型的关键。尽管Meta目前似乎领先，但业内大多数主要参与者正朝着使用超过100,000个先进芯片的计算集群工作。 早在三月份，Meta和Nvidia就分享了约25,000个H100的集群，用于开发Llama 3的相关细节。
