腾众软件科技有限公司腾众软件科技有限公司

曹冲称象的故事说明了什么科学道理,曹冲称象这个故事告诉我们什么道理

曹冲称象的故事说明了什么科学道理,曹冲称象这个故事告诉我们什么道理 “AI春晚”英伟达放大招:亮算力“杀器”、助游戏“捏人”;黄仁勋帮算账:GPU多买多省

  “AI热潮”最(zuì)大赢家之一、英(yīng)伟达背(bèi)后的(de)那个身(shēn)穿黑色(sè)皮衣的男人又(yòu)来了。

  前脚才交出亮眼(yǎn)业绩狂拉股价,英(yīng)伟达CEO黄仁勋后(hòu)脚就在昨日(rì)的COMPUTEX大(dà)会上宣布,“我们已到达生成式AI引爆点。从(cóng)此,全(quán)世界的每个角落,都(dōu)会有计算需求。”

  如今英(yīng)伟达掌(zhǎng)握(wò)着全(quán)球多家科技公司“算力命脉”,而在这(zhè)场大会(huì)上,黄仁(rén)勋(xūn)激情演讲2个小时,甩出了(le)多项重磅新发布,包(bāo)括(kuò)算力“杀器”DGX GH200超(chāo)级计算机(jī)、针对游戏的ACE代工服务、MGX服(fú)务器规范等内容。

  算力(lì)“杀器”:DGX GH200超级计算机(jī)+GH200超级芯片

  先(xiān)看“集成(chéng)了(le)英伟达最先(xiān)进加速计算和网络技术”的DGX GH200人工智能超级计(jì)算机(jī)

  这款超算专为大规模生成式AI的负载所设计,由256块(kuài)GH200超级芯片组成,拥有1 exaflop超(chāo)凡(fán)AI性能、144TB内存(是英伟(wěi)达(dá)目前DGX A100系统的近500倍(bèi))、150英里光纤、2000多个(gè)风(fēng)扇。

  DGX GH200重达(dá)40000磅(约合18143千克),堪比四只成年大象的体重(zhòng)。

  预计DGX GH200将于今年年底(dǐ)投入问世,英(yīng)伟达暂(zàn)未公布价格,而谷歌云、Meta与微(wēi)软将是首批用(yòng)户

  同(tóng)时,英伟达也正(zhèng)在打造(zào)自(zì)家(jiā)基于DGX GH200的大(dà)型AI超级计(jì)算机NVIDIA Helios,以支(zhī)持其研究和开发团队的工(gōng)作。其中采用4个(gè)DGX GH200系统、1024颗Grace Hopper超(chāo)级芯片(piàn),每个都(dōu)将与英伟达Quantum-2 InfiniBand网络连接,带宽(kuān)高达400Gb/s,将于今年(nián)年(nián)底上线(xiàn)。

  值得(dé)一(yī)提的是,黄(huáng)仁勋透露,DGX GH200集成的GH200 Grace Hopper超级芯片已(yǐ)进入全(quán)面生产

  “拉踩”CPU:成本、功耗、处理数据量不如GPU

  在(zài)本次大会(huì)上,黄仁勋还“拉踩(cǎi)”了一波(bō)CPU。他从(cóng)功(gōng)耗、处理数据量等方面,指出使(shǐ)用(yòng)GPU胜过CPU。

  举例(lì)来(lái)说(shuō),花(huā)费1000万美元(yuán),可以建设一个(gè)有960颗CPU的数(shù)据中心,其(qí)可处理(lǐ)1X LMM(大语(yǔ)言模型)数据量,需要11GWh功耗;

  同样成本下,也(yě)可以建设一个有48个(gè)GPU的数据中心,其可(kě)处理44X LLM数据(jù)量(liàng),仅需要3.2GWh功耗。

  若只(zhǐ)想处(chù)理1X LMM数(shù)据量(liàng),则只需40万(wàn)美(měi)元,便可拥有一个搭载2个(gè)GPU、功耗仅0.13GWh的数据中(zhōng)心。

  “买(mǎi)越多,省(shěng)越多(The more you buy, the more you save)。”黄仁勋再(zài)次表示(shì)。

  同时(shí),他也列出了数据(jù)中(zhōng)心(xīn)成本(běn)公(gōng)式:数(shù)据中心总持(chí)有成本=f[成本(芯片、系(xì)统(tǒng)、硬件生态系统)、吞吐量(GPU、Algo软件、网络、系统软件、软件生态系统)、使用(yòng)率(Algo Lib, 软件生态系统)、采购运(yùn)营、生(shēng)命周(zhōu)期最佳(jiā)化(huà)、电力]

  ACE代工服务(wù):用AI激(jī)活NPC生命

  游(yóu)戏(xì)一直是备受关注的(de)一大AI应用落地领(lǐng)域。英伟达也(yě)在大会上宣布(bù),推出面向(xiàng)游戏的定制(zhì)AI模(mó)型代工服务NVIDIA Avatar Cloud Engine(ACE)

  它能赋予非(fēi)玩(wán)家角色(NPC)更智(zhì)能且不(bù)断进化的(de)对(duì)话技能,中间件、工具和游戏开发(fā)者可(kě)使用它(tā)来构建和部署定制(zhì)的语音、对话和动(dòng)画AI模型

  其中(zhōng)包(bāo)括:英伟达NeMo,使(shǐ)用专有数据(jù)构(gòu)建、定制和(hé)部曹冲称象的故事说明了什么科学道理,曹冲称象这个故事告诉我们什么道理署语言模型;英伟(wěi)达Riva,用于(yú)自动语音(yīn)识别和(hé)文本转语音实(shí)现实时语音(yīn)对话;英(yīng)伟达Omniverse Audio2Face,用(yòng)于即(jí)时创(chuàng)建游戏角(jiǎo)色表情动画,以匹配(pèi)任何(hé)语(yǔ)音(yīn)轨(guǐ)道。

  开发人员(yuán)可选择集(jí)成整个(gè)NVIDIA ACE for Games解决方(fāng)案,也可仅使(shǐ)用(yòng)需要的组件。

  新参考工(gōng)作(zuò)流程:帮(bāng)助建设数字化(huà)智能工厂

  黄仁勋表示(shì),全球电子制造商正在使用(yòng)一种全(quán)新的综合(hé)参考工(gōng)作流程推进工业数(shù)字化(huà)工(gōng)作,该工作流程结合了英伟(wěi)达用于生成(chéng)式AI、3D协(xié)作、仿(fǎng)真(zhēn)和自主机器的技术,包括:

  英伟达Omniverse,其连接了(le)顶(dǐng)级计算机辅助设计应用以(yǐ)及生成(chéng)式AI的API和前(qián)沿框架(jià);用于模拟(nǐ)和(hé)测试机器人的英伟达(dá)Isaac Sim应用程序;英伟达(dá)Metropolis视觉AI框(kuāng)架,用于自动光学检(jiǎn)测。

  同(tóng)时,黄仁勋现场展(zhǎn)示了一个完全数(shù)字化(huà)的(de)智能工厂(chǎng)的演示。

  目前富士康工业互联网、宜鼎国际、和硕、广达(dá)和纬(wěi)创正在使用这一参考工作流程(chéng),具(jù)体用例包括电路(lù)板质保检测点自动化、光学(xué)检(jiǎn)测自动化、建设虚拟工厂、模拟(nǐ)协作机器人、构(gòu)建(jiàn)及运营数字孪生(shēng)等。

  MGX服务(wù)器规范:快速高效构建(jiàn)百余种服务(wù)器配置

  英伟达发布(bù)NVIDIA MGX服务(wù)器(qì)规范,为系(xì)统制造(zào)商提供模块(kuài)化参考架构(gòu),满足各(gè)种规(guī)模的(de)数据中心需求。系统制造(zào)商可使用它(tā)快速且经济高效(xiào)地构(gòu)建100多种服务(wù)器配置(zhì曹冲称象的故事说明了什么科学道理,曹冲称象这个故事告诉我们什么道理),以适应(yīng)广泛的AI、HPC及(jí)NVIDIA Omniverse应用。

  MGX支(zhī)持英伟达(dá)全系列(liè)GPU、CPU、DPU和网络适配器、各种x86、完整软件堆栈(zhàn)及Arm处理器,还可集(jí)成到云和(hé)企(qǐ)业数据中(zhōng)心中。

  华(huá)硕、和硕、QCT、超(chāo)微(Supermicro)等都将采用MGX构(gòu)建下一(yī)代加(jiā)速计算机,可将开(kāi)发成本削减多(duō)达3/4,并(bìng)将开(kāi)发时间缩短2/3至仅需6个月

  其中,QCT和超微基于MGX的设计将于8月面世(shì)。超微昨日公布(bù)的(de)ARS-221GL-NR系统(tǒng)将采用Grace CPU,而QCT的S74G-2U系统将采用Grace Hopper。

  推出(chū)Spectrum-X网络(luò)平台 构建超大规模生成式AI超级(jí)计(jì)算机Israel-1

  另(lìng)外曹冲称象的故事说明了什么科学道理,曹冲称象这个故事告诉我们什么道理,黄仁勋宣布推出NVIDIA Spectrum-X网络平台,旨在提高基于(yú)以太网的AI云的(de)性(xìng)能和效率(lǜ)。

  相比传统(tǒng)以太网(wǎng)结构,Spectrum-X可实(shí)现1.7倍(bèi)的整体AI性能和能效提(tí)升,并具有(yǒu)高度通(tōng)用(yòng)性,可(kě)用于各种AI应用。它使用完全基于标准(zhǔn)的以太网,并可与基于(yú)以太网的堆栈互操作。该平台支(zhī)持256个200Gb/s端(duān)口,通过单个交换机连(lián)接,或在两层leaf-spine拓(tuò)扑中提供16000个端口,以支(zhī)持AI云(yún)增(zēng)长和扩展,在保持性能(néng)的同(tóng)时(shí)最(zuì)大限度(dù)减少网(wǎng)络延迟(chí)。

  全球(qiú)领先云(yún)计算提供商(shāng)正在采用Spectrum-X平台扩(kuò)展(zhǎn)生(shēng)成式(shì)AI服(fú)务,而Spectrum-X、Spectrum-4交换机(jī)、BlueField-3 DPU等已在戴(dài)尔、联想等系统制造商处提供。

  此外,作为Spectrum-X参考(kǎo)设计的蓝图和测试平台,英伟(wěi)达正构(gòu)建(jiàn)一台(tái)超大规模生成式AI超级计(jì)算机Israel-1。这(zhè)台AI超(chāo)算价(jià)值数亿美(měi)元,将采用戴尔PowerEdge XE9680服务(wù)器、英伟达HGX H100超级计算(suàn)平(píng)台、内置(zhì)BlueField-3 DPU和Spectrum-4交换机的Spectrum-X平台。

  结语

  “40年来(lái),我(wǒ)们(men)创(chuàng)造了PC、互联网、移动、云,现(xiàn)在是人工智(zhì)能时代。你会创造什么?不(bù)管是什么(me),都要像我们(men)一(yī)样追赶它。要奔跑,不要(yào)走(zǒu)。要么为(wèi)了食物奔跑,要么作为食(shí)物(wù)奔跑。”

  在(zài)5月(yuè)27日的台湾大学发表了毕业典礼演(yǎn)讲上,黄(huáng)仁勋(xūn)再次(cì)强调(diào)了掌握AI技术的重(zhòng)要性:很多(duō)人担(dān)心,AI会抢走自己(jǐ)的(de)工作。但真正会抢走你饭碗的(de),是掌(zhǎng)握了AI技术的人。

  他(tā)表(biǎo)示,从各方面(miàn)来看,AI的兴盛(shèng)是计(jì)算机(jī)产业的(de)再生(shēng)契机。在下个十年,我们的产(chǎn)业将使(shǐ)用新型AI电脑,取代(dài)价(jià)值万亿美元的传统电脑。

  而从昨日大(dà)会上黄仁勋的展(zhǎn)示中,人工(gōng)智能时代的未(wèi)来轮廓(kuò)似乎已逐渐(jiàn)浮现。

未经允许不得转载:腾众软件科技有限公司 曹冲称象的故事说明了什么科学道理,曹冲称象这个故事告诉我们什么道理

评论

5+2=