Sa paspas nga pagsaka sa mga aplikasyon sa AI, nga gipangulohan sa mga modelo sama sa ChatGPT, ang panginahanglan alang sa gahum sa pag-compute misaka. Aron matubag ang nagkadaghang panginahanglan sa komputasyonal sa panahon sa AI, ang H3C Group, ubos sa payong sa Tsinghua Unigroup, bag-o lang nagpadayag sa 11 ka bag-ong produkto sa H3C UniServer G6 ug HPE Gen11 series sa 2023 NAVIGATE Leader Summit. Kini nga mga bag-ong produkto sa server nagmugna usa ka komprehensibo nga matrix alang sa AI sa lainlaing mga senaryo, nga naghatag usa ka kusgan nga sukaranan nga plataporma alang sa pagdumala sa daghang mga datos ug mga algorithm sa modelo, ug pagsiguro sa usa ka igo nga suplay sa mga kapanguhaan sa AI computing.
Nagkalainlain nga Product Matrix aron Matubag ang Nagkalainlain nga Mga Panginahanglan sa AI Computing
Isip usa ka lider sa intelihente nga kompyuter, ang H3C Group nalambigit pag-ayo sa natad sa AI sulod sa daghang katuigan. Kaniadtong 2022, ang H3C nakab-ot ang labing kataas nga rate sa pagtubo sa gipadali nga merkado sa kompyuter sa China ug natipon ang kinatibuk-an nga 132 nga ranggo nga una sa kalibutan sa bantog nga internasyonal nga benchmark sa AI nga MLPerf, nga nagpakita sa lig-on nga kahanas sa teknikal ug kapabilidad niini.
Gipahimuslan ang usa ka abante nga arkitektura sa kompyuter ug mga katakus sa pagdumala sa gahum sa intelihente nga kompyuter nga gitukod sa pundasyon sa intelihenteng pag-compute, ang H3C nagpalambo sa intelihenteng kompyuter nga punoan nga H3C UniServer R5500 G6, nga espesipikong gidisenyo alang sa dinagkong modelo nga pagbansay. Gipaila usab nila ang H3C UniServer R5300 G6, usa ka hybrid computing engine nga angay alang sa dinagkong inference/training scenario. Kini nga mga produkto dugang nga nakab-ot ang lainlain nga mga kinahanglanon sa pag-compute sa lainlaing mga senaryo sa AI, nga naghatag komprehensibo nga pagsakup sa AI computing.
Intelihente nga Computing Flagship Gidisenyo alang sa Dagko nga Pagbansay sa Modelo
Ang H3C UniServer R5500 G6 naghiusa sa kusog, ubos nga konsumo sa kuryente, ug paniktik. Kung itandi sa miaging henerasyon, nagtanyag kini tulo ka beses nga gahum sa pagkalkula, pagkunhod sa oras sa pagbansay sa 70% alang sa GPT-4 nga dagkong mga senaryo sa pagbansay sa modelo. Magamit kini sa lainlaing mga senaryo sa negosyo sa AI, sama sa dinagkong pagbansay, pag-ila sa sinultihan, klasipikasyon sa imahe, ug paghubad sa makina.
Kusog: Ang R5500 G6 nagsuporta hangtod sa 96 ka mga CPU core, nga naghatud sa usa ka 150% nga pagtaas sa kinauyokan nga pasundayag. Nasangkapan kini sa bag-ong NVIDIA HGX H800 8-GPU module, nga naghatag ug 32 PFLOPS nga computational power, nga miresulta sa 9x nga pag-uswag sa dako nga modelo nga AI nga katulin sa pagbansay ug usa ka 30x nga pag-uswag sa dako nga modelo nga AI inference performance. Dugang pa, uban sa suporta sa PCIe 5.0 ug 400G networking, ang mga tiggamit mahimong mag-deploy sa mas taas nga performance sa AI computing clusters, nga makapadali sa pagsagop ug paggamit sa AI sa mga negosyo.
Kaalam: Ang R5500 G6 nagsuporta sa duha ka topology configurations, intelihenteng pagpahiangay sa nagkalain-laing AI application scenario ug pagpadali sa lawom nga pagkat-on ug siyentipikong mga aplikasyon sa pagkompyuter, pag-ayo pag-ayo sa GPU resource utilization. Salamat sa multi-instance GPU feature sa H800 module, ang usa ka H800 mahimong bahinon ngadto sa 7 GPU instances, nga adunay posibilidad nga hangtod sa 56 GPU instances, ang matag usa adunay independent computing ug memory resources. Mahinungdanon nga gipauswag niini ang pagka-flexible sa mga kapanguhaan sa AI.
Ubos nga Carbon Footprint: Ang R5500 G6 hingpit nga nagsuporta sa liquid cooling, lakip ang liquid cooling para sa CPU ug GPU. Uban sa usa ka PUE (Power Usage Effectiveness) nga ubos sa 1.1, kini makahimo sa "cool computing" sa kainit sa computational surge.
Angay nga hisgutan nga ang R5500 G6 giila nga usa sa "Top 10 Outstanding High-Performance Servers of 2023" sa "2023 Power Ranking for Computational Performance" sa pagpagawas niini.
Hybrid Computing Engine alang sa Flexible Matching sa Training ug Inference Demands
Ang H3C UniServer R5300 G6, isip sunod nga henerasyon nga AI server, nagtanyag ug mahinungdanong mga pag-uswag sa mga detalye sa CPU ug GPU kumpara sa gisundan niini. Gipanghambog niini ang talagsaong performance, intelihente nga topology, ug integrated computing ug storage nga kapabilidad, nga naghimo niini nga angayan alang sa deep learning model training, deep learning inference, ug uban pang AI application scenario, flexibly matching training ug inference computing nga mga panginahanglan.
Talagsaon nga Pagganap: Ang R5300 G6 nahiuyon sa pinakabag-o nga henerasyon sa NVIDIA enterprise-grade GPUs, nga naghatag ug 4.85x nga pagpaayo sa performance kumpara sa miaging henerasyon. Gisuportahan niini ang lainlaing mga lahi sa AI acceleration card, sama sa GPUs, DPUs, ug NPUs, aron matubag ang heterogeneous computing power nga gikinahanglan sa AI sa lain-laing mga senaryo, nga naghatag gahum sa panahon sa paniktik.
Intelligent Topology: Ang R5300 G6 nagtanyag og lima ka GPU topology settings, lakip ang HPC, parallel AI, serial AI, 4-card direct access, ug 8-card direct access. Kining wala pa mahitabo nga pagka-flexible nagpadako pag-ayo sa pagpahaom sa lain-laing mga sitwasyon sa aplikasyon sa user, maalamon nga naggahin og mga kapanguhaan, ug nagduso sa episyente nga operasyon sa kuryente sa kompyuter.
Integrated Computing and Storage: Ang R5300 G6 flexible nga nag-accommodate sa AI acceleration card ug mga intelihenteng NIC, nga naghiusa sa pagbansay ug mga kapabilidad sa inference. Gisuportahan niini ang hangtod sa 10 ka doble nga gilapdon nga mga GPU ug 24 nga LFF (Daghang Porma nga Kahulogan) nga mga slot sa hard drive, nga makapaarang sa dungan nga pagbansay ug pag-inference sa usa ka server ug naghatag usa ka epektibo nga makina sa kompyuter alang sa pag-uswag ug pagsulay sa mga palibot. Uban sa kapasidad sa pagtipig hangtod sa 400TB, kini hingpit nga nagtagbo sa mga kinahanglanon sa espasyo sa pagtipig sa datos sa AI.
Sa pag-uswag sa AI boom, ang gahum sa pag-compute kanunay nga gibag-o ug gihagit. Ang pagpagawas sa mga sunod nga henerasyon nga mga server sa AI nagtimaan sa lain nga hinungdanon sa pasalig sa H3C Group sa teknolohiya nga "kinaiyahan nga paniktik" ug ang padayon nga pagmaneho niini alang sa ebolusyon sa intelihenteng kompyuter.
Nagtan-aw sa umaabot, nga gigiyahan sa "Cloud-Native Intelligence" nga estratehiya, ang H3C Group nagsunod sa konsepto sa "maampingon nga pragmatismo, nga naghatag sa panahon sa salabutan." Magpadayon sila sa pag-ugmad sa tabunok nga yuta sa intelihenteng pag-compute, pagsuhid sa lawom nga lebel sa AI nga mga senaryo sa aplikasyon, ug pagpadali sa pag-abot sa usa ka intelihente nga kalibutan nga adunay andam sa umaabot, mapahiangay nga gahum sa pag-compute.
Oras sa pag-post: Hul-04-2023
