[China, Shenzhen, Hulyo 14, 2023] Karon, gipadayag sa Huawei ang bag-ong solusyon sa pagtipig sa AI alang sa panahon sa dagkong mga modelo, nga naghatag labing maayo nga mga solusyon sa pagtipig alang sa pagbansay sa batakang modelo, pagbansay sa modelo nga piho sa industriya, ug pag-inference sa mga senaryo nga gibahin, sa ingon. nagpagawas sa bag-ong mga kapabilidad sa AI.
Sa pag-uswag ug pagpatuman sa dagkong mga aplikasyon sa modelo, ang mga negosyo nag-atubang sa upat ka dagkong mga hagit:
Una, ang panahon nga gikinahanglan alang sa pag-andam sa datos taas, ang mga tinubdan sa datos nagkatag, ug ang paghugpong hinay, nga mokabat ug 10 ka adlaw alang sa preprocessing sa gatusan ka terabytes sa datos. Ikaduha, alang sa mga multi-modal nga dagkong mga modelo nga adunay daghang mga datos sa teksto ug imahe, ang karon nga katulin sa pagkarga alang sa daghang gagmay nga mga file dili mubu sa 100MB / s, nga miresulta sa ubos nga kahusayan sa pagkarga sa set sa pagbansay. Ikatulo, ang kanunay nga pag-adjust sa parameter alang sa dagkong mga modelo, uban ang dili lig-on nga mga plataporma sa pagbansay, hinungdan sa mga pagkabalda sa pagbansay halos matag 2 ka adlaw, nga gikinahanglan ang mekanismo sa Checkpoint aron ipadayon ang pagbansay, nga ang pagbawi molungtad og usa ka adlaw. Katapusan, taas nga mga threshold sa pagpatuman alang sa dagkong mga modelo, komplikado nga pag-setup sa sistema, mga hagit sa pag-iskedyul sa kapanguhaan, ug paggamit sa kapanguhaan sa GPU kanunay nga ubos sa 40%.
Ang Huawei nagpahiuyon sa uso sa pagpalambo sa AI sa panahon sa dagkong mga modelo, nga nagtanyag og mga solusyon nga gipahaom alang sa lain-laing mga industriya ug mga senaryo. Gipaila niini ang OceanStor A310 Deep Learning Data Lake Storage ug ang FusionCube A3000 Training/Inference Super-Converged Appliance. Ang OceanStor A310 Deep Learning Data Lake Storage nagpunting sa sukaranan ug industriya-level nga dagkong modelo sa mga senaryo sa data lake, nga nakab-ot ang komprehensibo nga pagdumala sa datos sa AI gikan sa pagtipon sa datos, preprocessing hangtod sa pagbansay sa modelo, ug mga aplikasyon sa inference. Ang OceanStor A310, sa usa ka 5U rack, nagsuporta sa nanguna sa industriya nga 400GB/s bandwidth ug hangtod sa 12 milyon nga IOPS, nga adunay linear scalability hangtod sa 4096 node, nga makapaarang sa seamless cross-protocol nga komunikasyon. Ang Global File System (GFS) nagpadali sa intelihente nga paghablon sa datos sa mga rehiyon, pagpahapsay sa mga proseso sa pagtipon sa datos. Ang duol nga storage computing nakaamgo sa duol nga data preprocessing, pagkunhod sa data kalihukan, ug pagpalambo sa preprocessing efficiency sa 30%.
Ang FusionCube A3000 Training/Inference Super-Converged Appliance, nga gidisenyo alang sa lebel sa industriya sa dagkong modelo nga pagbansay/inference nga mga senaryo, nagsilbi sa mga aplikasyon nga naglambigit sa mga modelo nga adunay binilyon nga mga parameter. Gi-integrate niini ang OceanStor A300 high-performance storage nodes, training/inference nodes, switching equipment, AI platform software, ug management and operation software, nga naghatag ug dagkong mga partner partners sa plug-and-play deployment experience para sa one-stop delivery. Andam nga gamiton, kini mahimong i-deploy sulod sa 2 ka oras. Parehong pagbansay/inference ug storage node mahimong independente ug horizontally expanded aron mohaum sa lain-laing mga kinahanglanon sa sukdanan sa modelo. Samtang, ang FusionCube A3000 naggamit sa mga sulud nga adunay taas nga pasundayag aron mahimo ang daghang mga pagbansay sa modelo ug mga buluhaton sa pag-inference sa pagpaambit sa mga GPU, pagdugang sa paggamit sa kapanguhaan gikan sa 40% hangtod sa 70%. Ang FusionCube A3000 nagsuporta sa duha ka flexible nga modelo sa negosyo: Huawei Ascend One-Stop Solution ug ang third-party partner one-stop solution nga adunay open computing, networking, ug AI platform software.
Ang Presidente sa Huawei sa Data Storage Product Line, Zhou Yuefeng, nag-ingon, "Sa panahon sa dagkong mga modelo, ang datos nagtino sa gitas-on sa AI intelligence. Ingon nga tigdala sa datos, ang pagtipig sa datos nahimong yawe nga pundasyon nga imprastraktura alang sa AI nga dagkong mga modelo. Ang Huawei Data Storage magpadayon sa pagbag-o, nga naghatag lainlaing mga solusyon ug produkto alang sa panahon sa dagkong mga modelo sa AI, nakigtambayayong sa mga kauban aron madasig ang paghatag gahum sa AI sa daghang mga industriya.
Oras sa pag-post: Aug-01-2023
