国产欧美日本亚洲精品一4区_国产99精品在线观看_色视频免费观看_欧美高清视频在线观看mv_天堂网.www在线资源_久久综合88_浮力影院网站午夜_女人色偷偷aa久久天堂_女生裸体免费视频_国产成人影院

(資料圖片)

Inflection AI 是一家新初創(chuàng)公司，由 Deep Mind 前任負(fù)責(zé)人創(chuàng)立，并得到了微軟和英偉達(dá)的支持，上周該公司以現(xiàn)金和云信貸的方式從行業(yè)重量級人物手中籌集了 13 億美元。該公司似乎將利用這筆資金構(gòu)建一個(gè)由多達(dá) 22,000 個(gè) Nvidia H100 計(jì)算 GPU 提供支持的超級計(jì)算機(jī)集群，該集群的峰值理論計(jì)算能力性能可與Frontier 超級計(jì)算機(jī)相媲美。據(jù)路透社

報(bào)道，DeepMind 創(chuàng)始人兼 Inflection AI 聯(lián)合創(chuàng)始人 Mustafa Suleyman 表示：“我們將建立一個(gè)由約 22,000 個(gè) H100 組成的集群。 ” “這大約是用于訓(xùn)練所有 GPT-4 的計(jì)算量的三倍。速度和規(guī)模才是真正使我們能夠構(gòu)建差異化產(chǎn)品的因素。

由 22,000 個(gè) Nvidia H100 計(jì)算 GPU 提供支持的集群理論上能夠?qū)崿F(xiàn) 1.474 exaflops 的 FP 性能——這是使用 Tensor 核心的結(jié)果。對于在 CUDA 內(nèi)核上運(yùn)行的通用 FP 代碼，峰值吞吐量僅為一半：0.737 FP exaflops。與此同時(shí)，世界上最快的超級計(jì)算機(jī) Frontier的峰值計(jì)算性能為 1.813 FP exaflops(矩陣運(yùn)算的兩倍，達(dá)到 3.626 exaflops)。這使得計(jì)劃中的新計(jì)算機(jī)目前排名第二，但在El Capitan和Aurora全面上線后可能會(huì)跌至第四。

雖然 FP 性能對于許多科學(xué)工作負(fù)載很重要，但該系統(tǒng)對于面向 AI 的任務(wù)可能會(huì)更快。FP16/BF16 峰值吞吐量為 43.5 exaflops，而 FP8 吞吐量則翻倍至 87.1 exaflops。Frontier 超級計(jì)算機(jī)由 37,888 AMD Instinct MI250X 提供支持，其 BF16/FP16 峰值吞吐量為 14.5 exaflops。

該集群的成本尚不清楚，但請記住，Nvidia 的 H100 計(jì)算 GPU 零售價(jià)每臺超過 30,000 美元，我們預(yù)計(jì)該集群的 GPU 成本將達(dá)到數(shù)億美元。加上所有機(jī)架服務(wù)器和其他硬件，這將占 13 億美元資金的大部分。

Inflection AI 成立大約一年后，目前估值約為 40 億美元。它目前唯一的產(chǎn)品是一個(gè)名為 Pi 的新一代人工智能聊天機(jī)器人，Pi 是個(gè)人智能的縮寫。Pi 旨在作為人工智能驅(qū)動(dòng)的個(gè)人助理，采用類似于 ChatGPT 的生成式人工智能技術(shù)，支持規(guī)劃、調(diào)度和信息收集。這使得 Pi 能夠通過對話與用戶進(jìn)行交流，使人們可以提出疑問并提供反饋。除此之外，Inflection AI 還概述了 Pi 的具體用戶體驗(yàn)?zāi)繕?biāo)，例如提供情感支持。

目前，Inflection AI 在 Microsoft Azure 云中運(yùn)行基于 3,584 個(gè) Nvidia H100 計(jì)算 GPU 的集群。擬議的超級計(jì)算集群的性能大約是當(dāng)前基于云的解決方案的六倍。

標(biāo)簽：