Meta正在构建世界上最快的人工智能超级计算机以

　　Meta正在构建世界上最快的人工智能超级计算机以实现其元宇宙雄心“Meta的AI超等估计打算机已完毕第一阶段创办，每秒可实行50亿次运算。”

　　1月24日，Meta宣告博文先容正正在创办的AI超等估计打算机AI Research SuperCluster（RSC)。Meta吐露，这是目前宇宙上最疾的AI超等估计打算机之一，每秒可实行50亿次运算，它将加快Meta的AI探索并助助Meta构修元宇宙。

　　RSC目前已完毕第一阶段创办，发轫使用于操练具少有十亿参数的大型AI模子。RSC可能助助Meta的AI探索职员构修更好的AI模子，可能从数万亿个示例中进修；跨数百种差异言语事业；无缝阐明文本、图像和视频；开辟新的巩固实际东西等。借助RSC，Meta可能更疾地操练行使众模态信号的模子来确定举动、声响或图像是无益仍旧良性。这项探索将为Meta的元宇宙筹划奠定基本。

　　人工智能超等估计打算机是通过将众个GPU组合成估计打算节点来构修的，然后通过高职能收集构造维系这些节点，以完成这些GPU之间的火速通讯。目前，RSC共有760个NVIDIA DGX A100编制行动其估计打算节点，总共有6,080个GPU。Meta声称这该当可能与劳伦斯伯克利邦度实行室的Perlmutter竞赛。遵照排名网站Top 500的数据，Perlmutter是目前运转中的第五强健的超等估计打算机。目前排名第一的是日本的Fugaku。跟着Meta接连构修和升级编制， RSC的威力估计将降低三倍支配，外面上这将使RSC可能正在他日掠夺排名第三。

　　Meta永久以后无间是人工智能探索周围的野心勃勃的插手者。该公司以为人工智能正在元宇宙的生长中阐述着要紧影响。“咱们生机RSC或许助助咱们构修全新的AI编制，比如，可认为一大群人供给及时语音翻译，每一面都说差异的言语，云云他们就可能正在探索项目上无缝合作或玩AR逛戏一块，”Meta AI探索职员Kevin Lee和Shubho Sengupta正在一篇博文中写道。“最终，RSC所做的事业将为构修下一个合键估计打算平台的手艺铺平道途——元宇宙，人工智能驱动的使用步骤和产物将正在此中阐述要紧影响。”

　　Meta的探索职员阐明说，公司比来正在自我监视进修（Self-Supervised Learning）周围获得了长足的先进，这是算法从洪量未标志示例中进修的周围。它还引颈了基于转换器的模子（Transformers）的先进，这使得人工智能可能通过专一于其输入的某些周围来更有用地推理。Meta总结说，为了完成自我监视进修和基于转换器的模子的一起好处，它必要操练越来越繁复和气应性更强的AI模子，这意味着它必要打点洪量的数据。比如，要开辟更高级的估计打算机视觉模子，必要以更高的数据采样率打点更大、更长的视频。

　　同时，语音识别必要正在具有洪量靠山噪音的最具离间性的场景中事业，自然言语打点务必融会差异的言语、口音和方言。以是Meta决计它必要一台比目前可用的更强健的估计打算机。

　　“与Meta的守旧临盆和探索基本措施比拟，RSC的早期基准测试外白，它运转估计打算机视觉事业流程的速率高达20倍，运转Nvidia NCCL Collectives的速率凌驾9倍，操练大范围NLP模子疾三倍，”Meta AI的探索职员说。“这意味着一个拥少有百亿参数的模子可能正在三周内完毕操练，而之前是九周。”

　　除了专一于速率和功率以外，RSC的构修还研究到了平安性。“RSC的计划从一发轫就研究到了隐私和平安性，于是Meta的探索职员可能行使加密的用户天生数据平安地操练模子，这些数据直到操练前才被解密，”Lee和Sengupta写道。这些袒护步伐席卷确保RSC与大家互联网分开，没有直接的入站或出站维系。同时，从 Meta 的存储编制到GPU的所有旅途都是加密的，惟有正在行使之前，正在GPU端点，内存中的数据才被解密。

　　Meta呈现，RSC的第二阶段创办将正在2022年尾之前完毕，职能将有大幅的提拔。RSC将成为宇宙上最疾的AI超等估计打算机，其混杂精度估计打算职能亲近5 exaflops。到2022年，GPU的数目将从6,080个增进到16,000个，这将使AI操练职能降低2.5倍以上。InfiniBand构造将扩展为助助16,000个端口，采用两层拓扑构造，不会闪现逾额订阅。该存储编制将具16TB/s的对象交付带宽和EB级容量，以餍足不停延长的需求。

　　Meta吐露，“咱们估计估计打算才气的这种阶跃函数转移不只使咱们或许为咱们现有的任事创修更无误的人工智能模子，况且还或许完成全新的用户体验，越发是正在元宇宙中。”“咱们正在自我监视进修和行使RSC构修下一代AI基本措施方面的永久投资正正在助助咱们创修基本手艺，这些手艺将为元界供给动力并胀舞更普及的AI社区生长。”