Supersnelle en efficiënte processors zijn nodig voor AI. Maar ook je storage moet die snelheid aankunnen: en dat is waar DDN mee surft op de golf van Nvidia.
Het in 1998 in Californië als DataDirect Networks Storage opgerichte DDN profileert zich als een opslagspeler voor veeleisende toepassingen, zoals supercomputers en high-performance computing (HPC). Het Amerikaanse bedrijf mikt de afgelopen jaren meer dan ooit op alles wat met AI te maken heeft, zo leerden we tijdens een eerste ontmoeting met het bedrijf in 2023. Enkele weken terug sprak Data News opnieuw met DDN, in het kader van de IT Press Tour in Silicon Valley. ‘Onze eerste 10 tot 15 jaar focusten we inderdaad vooral op HPC. Nu is dat volop AI’, steekt James Coomer, svp products bij DDN Storage meteen van wal. Nog geen minuut later valt al voor de eerste keer de naam van het huidige wonderkind in IT: Nvidia.
Nvidia is een grote klant
‘Zowat vijf jaar geleden zijn we gestart met het investeren in AI, en het is op dat moment dat Nvidia een klant werd van ons. Na het testen van verschillende fabrikanten besloten ze om met DDN in zee te gaan voor hun interne large scale systems’, vertelt Coomer. ‘Onze werkrelatie is sindsdien geïntensiveerd. Nvidia gebruikte onze storage later ook in hun Selene supercomputer en ondertussen maken we samen ook referentie-architecturen uit. Waar het op neerkomt: als Nvidia snelle opslag nodig heeft, dan komen ze bij ons aankloppen’, stelt Coomer die hoopt dat beide bedrijven uiteindelijk kunnen uitgroeien tot zowat dé standaard voor AI-infrastructuur.
Parallelle verwerking
‘Maar de grootste uitdaging? Kunnen we systemen bouwen die groot genoeg zijn om met de blijvende groei van AI te blijven omgaan?’, vraagt Coomer zich af. Want niet alleen het eindresultaat van AI, maar zeker en vooral de training van de LLM’s achter de AI is enorm belastend voor het opslaggedeelte. De sleutel voor de oplossing blijkt ‘parallelle processing’ te zijn. ‘We kunnen makkelijk tien keer efficiënter zijn via zo’n parallelle architectuur in combinatie met een geïntegreerd dataplatform. Minder complexiteit in combinatie met hogere snelheden én dat levert nog eens energiebesparing op’, somt Coomer enkele voordelen op.
Infinia voor datacenters
Het zal wel toeval zijn dat de merknaam Infinia wat aan Nvidia doet denken, maar met Infinia wil DDN ook tegemoet komen aan de huidige eisen in datacenters. DDN Infinia is een hoogperformant, software defined gedistribueerd dataplatform dat specifiek voor cloud en AI ontwikkeld is. ‘Volledig eigen ontwikkeling trouwens’, benadrukt ook Kurt Kuckein, vp marketing DDN Storage.
Infinia verwerkt zowel gestructuurde als niet-gestructureerde data en gaat voor een zeer eenvoudige bediening waarbij de eigenlijke storage as-a-Service opgeleverd wordt. ‘Noem het een basisplatform voor schaalbare AI, volledig als microservices uitgedokterd, inclusief containers (o.a. Kubernetes) en multi-tenancy’, vat Coomer het samen. Een van de grote voordelen moet zijn dat AI-workloads dus veel sneller uitgevoerd worden en de latency beperkt blijft.
Fout opgemerkt of meer nieuws? Meld het hier