亞馬遜 AWS 在發(fā)布于 6 月 24 日的一篇文章中介紹了其大型分布式集群 Project Rainier，該項(xiàng)目有望成為世界上最強(qiáng)大的 AI 模型訓(xùn)練計(jì)算機(jī)。

Project Rainier 分布在美國(guó)境內(nèi)的多個(gè)不同數(shù)據(jù)中心中，基于 AWS 旗下 Annapurna Labs 芯片部門開發(fā)的 AI 芯片 Trainium2：每個(gè)服務(wù)器配備 16 顆 Trainium2，每 4 個(gè)服務(wù)器合為一個(gè) UltraServer，數(shù)以萬計(jì)的 UltraServer 互聯(lián)構(gòu)成 Project Rainier 這一 UltraCluster 超級(jí)集群。

在互聯(lián)方面，藍(lán)色電纜的 NeuronLinks 負(fù)責(zé) Tn2 UltraServer 內(nèi)部高速互聯(lián)，而單一數(shù)據(jù)中心內(nèi)部和跨數(shù)據(jù)中心互聯(lián)則交由黃色電纜的 Elastic Fabric Adapter (EFA) 技術(shù)負(fù)責(zé)。

Anthropic 將使用 Project Rainier 構(gòu)建和部署旗艦?zāi)Ｐ?Claude 的未來版本，Annapurna Labs 產(chǎn)品和客戶工程總監(jiān) Gadi Hutt 表示， Project Rainier 可提供五倍于 Anthropic 目前最大訓(xùn)練集群的算力。