Procesori AGI të kompanisë Arm kanë shënuar një performancë pothuajse dyfish më të lartë se modeli i paracaktuar për sistemet EPYC 9755 të AMD, në shtatë teste të krijuar për të vlerësuar inteligjencën artificiale autonome.
Vlerësimi, i kryer nga Signal65 me bashkëpunimin e Arm, krahasoi rezultatet e matura të procesorëve dhe më pas vlerësoi performancën e sistemeve të vendosura në rafë, duke operuar me një buxhet të fiksuar energjie.
Rezultatet bazohen pjesërisht në modelim bazuar në energji, ndërsa testimi i harduerit të prodhimit përfundimtar është ende në proces.
Vlerësimi përfshiu teste të mjeteve të softuerit, ekzekutimit autonom të detyrave, kërkimit të informacionit dhe mbështetjes për shërbimet e modeleve të AI, duke përfshirë Terminal-Bench 2 dhe SWE-bench.
Në të shtatë testet, procesori i Arm arriti një raport mesatar performancë 1.99 herë më i lartë, me rezultate individuale që variojnë nga 1.43 herë deri në 3.19 herë më shumë se sistemi EPYC 9755 i AMD.
Avantazhi i modeluar pjesërisht vjen nga diferencat në konsumin e energjisë së serverit, duke lejuar më shumë sisteme AGI brenda të njëjtit alokim energjie.
Një raft me kapacitet 24 kW mund të akomodojë 21 deri në 23 serverë AGI CPU, krahasuar me 13 sisteme EPYC 9755 me dy procesorë.
Kjo konfiguracion ofron midis 5.712 dhe 5.888 bërthamë fizike për Arm, krahasuar me 3.328 për AMD, edhe pse krahasimi varet nga hipotezat e fuqisë së vlerësuar.
Konsumi i energjisë për server individual varion nga 950 deri në 1.050 vat për sistemet e Arm, ndërsa konfiguracionet me dy procesorë të AMD kanë një konsum të vlerësuar prej 1.700 vat.
Në kategoritë e testeve, Arm regjistroi avantazhe mesatare në nivelin e raftit prej 1.7 herë për mjete, 2.0 herë për proceset autonome dhe 2.2 herë për arsyetim dhe planifikim.
Raporti vlerësoi gjithashtu se operacionet e bazave të të dhënave dhe kërkimit vektorik mund të kërkonin 30% deri në 35% më pak raftesh për kapacitet të njëjtë të përpunimit.
Testime të veçanta krahasuan procesorin e Arm me procesorin EPYC 9965 të AMD duke përdorur Sandbench, i cili mat kohën e nevojshme për të krijuar mjedise të izoluara të ekzekutimit.
Arm përfundoi startimet e “ftohta” 45% më shpejt, startimet e “ngrohta” 27% më shpejt, dhe skenari më i keq i mbivendosjes katërfish 41% më shpejt.
Këto përmirësime janë të rëndësishme sepse agentët e AI shpesh krijojnë mjedise të ekzekutimit ndërsa aksesohen shërbime, ekzekutojnë kod dhe procesojnë informacion.
Startimet më të shpejta mund të zvogëlojnë vonesat, edhe pse rezultatet nuk demonstrojnë përfitime të njëjarta për të gjitha aplikacionet ose implementimet e të gjithë qendrave të të dhënave.
Mohamed Awad, zëvendës president ekzekutiv i Arm për AI në Cloud, tha: “Industria duhet të matë se sa mirë sistemet e përballojnë punën që agentët kryejnë”, duke theksuar nevojën për vlerësime të performancës specifike për ngarkesën.
Kompania zhvilloi kornizën e saj të vlerësimit me mbështetjen e Fujitsu, Meta dhe OpenAI, ndërsa Signal65 verifikoi pavarësisht rezultatet e raportuara të procesorit.
Arm pranoi gjithashtu se testime të mëtejshme në sistemet e prodhimit përfundimtar do të mbulojnë ngarkesa shtesë dhe krahasime konkurruese.
Për AMD dhe Intel, këto zbulime sugjerojnë se serverët bazuar në Arm mund të sfidojnë infrastrukturën x86 në implementimet e AI autonome, ku kufizimet e energjisë në nivelin e raftit kufizojnë kapacitetin e komputimit.
Performanca më e lartë në nivelin e raftit mund të lejojë operatorëve të akomodatojnë më shumë ngarkesa të AI brenda alokimeve ekzistuese të energjisë.
Megjithatë, ky benchmark nuk vërteton se Arm do të performojë më mirë se x86 në komputimin e përgjithshëm ose justifikon zëvendësimin e serverëve ekzistues në të gjitha qendrat e të dhënave.
Kompatibiliteti i softuerit, kostot e implementimit dhe kushtet e operimit reale do të ndikojnë nëse avantazhi i modeluar do të shndërrohet në një adoptim më të gjerë.
OK. Please provide the English text you want me to translate into Standard Albanian. I am ready to translate articles on technology, energy, business, aviation, and news, following all the guidelines you have provided.
Burimi: TechRadar.com
