Arc Compute

Jun 27, 2024

Deel dit artikel Arc Compute optimaliseert benutting GPU’s GPU’s zijn de krachtige processoren die de hedendaagse rekenkracht die nodig is voor AI voor hun rekening kunnen nemen. Ze zijn groot en gebruiken veel energie. Het optimaliseren van het GPU-gebruik brengt dan ook grote economische voordelen. Het bespaart ruimte, levert minder warmte op en beperkt het energieverbruik. Bovendien is de levering van GPU’s door de extreme vraag momenteel een uitdaging. Vandaar dat efficiënt gebruik meer dan ooit actueel is. Hoewel GPU-management geen nieuw idee zou moeten zijn, is Arc Compute uit Toronto (Canada) een van de eerste bedrijven die hier serieus en met succes werk van maakt. Michael Buchel (foto), de CTO van Arc Compute, vertelde tijdens de recente IT Press Tour in Californië: "Wij zijn gespecialiseerd in het identificeren van GPU-inefficiënties, te midden van de toenemende afhankelijkheid van deze processoren en een snelgroeiend GPU-tekort. We willen topprestaties mogelijk maken voor onze klanten en de impact op het milieu dan deze GPU’s verminderen." Desgevraagd wil Michael bevestigen dat een optimaal gebruik van de door Arc Compute ontwikkelde technologie (ArcHPC Suite), wel zo’n 30% aan efficiencyverbetering kan opleveren, als het concept compleet geïmplementeerd wordt. Er zijn uiteraard ook andere technologieën om het probleem aan te pakken dat Arc Compute probeert op te lossen. Het gebruik van taskmanagers en fractionele GPU-software zijn slechts twee opties. Aan de alternatieven kleven echter nadelen, want ze zijn niet in staat om diep in de processen in te grijpen, om zo bijvoorbeeld de latency te omzeilen en taken direct de reloceren om leegloop te voorkomen. Bovendien is het prioteriseren van de taken langs deze weg ook niet simpel mogelijk. Hierdoor blijft het managen van de performance een uitdaging. Nexus, Oracle en Mercury Het portfolio van Arc Compute bevat ArcHPC Suite en die omvat drie elementen: Nexus, Oracle en Mercury. Nexus is een management tool voor GPU en/of andere hardware versnellers. Met deze software kunnen gebruikers de rekenintensiteit en GPU-prestaties maximaliseren. Dit wordt bereikt door de doorvoer naar rekenresources te verhogen, terwijl de rekenomgevingen optimaal worden afgestemd op de uitvoering van taken en verdere verbeteringen. Oracle automatiseert het optimaliseren van taken en het implementeren van taken. Ook beheert het de operationele uitvoering op het lage niveau van instructies in de HPC-omgeving. Het verhoogt de versnelde hardware prestaties door middel van schaalbare flexibele controle. Mercury lost het matchen van taken op voor het maximale aantal unieke taken dat wordt uitgevoerd. Het selecteert hardware die de doorvoer maximaliseert voor de gemiddelde taak die in het datacenter wordt uitgevoerd. Het biedt datacentereigenaren informatie om hun faciliteiten te schalen en om nieuwe groeiende workloads aan te kunnen. Door: Hans Steeman