Lukt het niet om snel nieuwe GPU’s van Nvidia te bestellen? Misschien raak je dan wel verder met GPU-optimalisatie: de pitch van de Amerikaanse startup Arc Compute.
De motor achter AI? Dat zijn de algoritmes. Maar de aandrijvende kracht voor die motor? Dat zijn toch vooral de superkrachtige grafische processors (GPU) van Nvidia die in datacenters huizen. Het maakte van Nvidia een miljardenbedrijf. Maar de populairiteit heeft ook een keerzijde: de GPU’s zijn niet altijd even vlot verkrijgbaar. Lastig natuurlijk wanneer je je datacenter snel wil opschalen.
Arc Compute – een innovatieve Amerikaanse deeptech startup – ziet er een opportuniteit in: bestaande GPU’s optimaliseren op low-level niveau zodat je AI- en machine learning workloads toch versneld kan uitvoeren. Dat vertelde Michael Buchel, CTO van Arc Compute, tijdens de 56ste editie van de IT Press Tour in Silicon Valley waarop ook Data News aanwezig was. ‘Bijna niemand waagt zich aan dit type optimalisatie, om de eenvoudige reden dat het ook nooit nodig was. GPU’s waren er volop, maar het is pas nu dat de schaarste ontstaan is. Daar willen we nu zeker op inspelen’, zegt Buchel.
Zowel op korte als lange termijn
Arc Compute doet dat met een volledig eigen softwaresuite die luistert naar de naam Arc HPC Suite en die uit drie delen bestaat: Nexus, Oracle en Mercury. Nexus is de management oplossing en creëert het kader waarbinnen de prestaties van GPU’s opgeschroefd worden. Mercury richt zich op het bouwen van optimale datacenterconfiguraties op basis van de verwachte belasting over een periode van meerdere jaren. De bedoeling is dus om de infrastructuur van organisaties vanaf de allereerste dag maximaal te laten renderen, maar tegelijkertijd ook te anticiperen op de te verwachten toename van workloads in de komende jaren.
De Oracle-module – nee, niks te maken met het gekende bedrijf, nvdr – gaat nog een stap verder en zet wiskundige modellen in om de warmteontwikkeling door GPU’s in datacenters te voorspellen, het energieverbruik mee in kaart te brengen en zo zelfs slijtage te voorspellen. ‘Zo kunnen datacenters hun stroomverbruik en koelingsvereisten verlagen, maar ook bepaalde workloads anders toewijzen juist om schade aan bepaalde apparatuur te voorkomen’, zegt Buchel die tegelijk onderstreept dat de softwaresuite sowieso voor energiebesparing zorgt. ‘We spreken over 30 procent energiebesparing in datacenters eenmaal onze oplossing er helemaal uitgerold is’, aldus Buchel.
Overnamedoelwit?
Buchel ziet geen directe rivalen, maar een vraag die we ons wel stellen is in hoeverre Nvidia zélf die optimalisatie in huis heeft of ontwikkelt? ‘Nvidia heeft het ooit geprobeerd, maar heeft dat project jaren geleden stopgezet. Ondertussen hebben ze er ook minder baat bij, want hun commercieel model draait net rond het verkopen van next-gen krachtigere GPU’s zoals binnenkort ook Blackwell. Het zou een vreemde strategie zijn als Nvidia nu ineens ene oplossing uitbrengt om bestaande processors beter te laten renderen en het verkoopsargument onderuit te halen’, stelt Buchel.
Of ze dan geen overnamedoelwit zijn? ‘We denken niet aan verkopen. Maar we hebben wel een cijfer in ons hoofd en dat is heel erg hoog’, lacht de CTO. Arc Compute telt ondertussen een 17-tal werknemers en groeit als kool: voornamelijk via directe verkoop aan strategische klanten binnen het brede ecosysteem van AI/ML-bedrijven en supercomputers. Michael Buchel zegt dat het bedrijf momenteel werkt aan een grootschalige Series A investeringsronde om enerzijds de verdere ontwikkeling van de softwaresuite te versnellen, en anderzijds extra partnerships uit te bouwen.
Nvidia onthult datacenterplannen
Fout opgemerkt of meer nieuws? Meld het hier