Als we één ding onthouden van de Innovation Summit 2025 van Schneider, dan is dat het woord ‘density’. Het datacenter van de toekomst is dichter op elkaar gepakt, waardoor het efficiënter moet worden. Wat betekent dat voor ons land?
Schneider Electric, het Franse bedrijf dat koeling- en energiesystemen maakt, onder meer voor datacenters, ziet de industrie bewegen richting efficiëntere datacenters die dichter op elkaar gepakt zijn. ‘Tegen 2028 wil Nvidia bijvoorbeeld naar 1MW per rack. Dat vereist een hele nieuwe soort infrastructuur,’ zegt Steven Carlini, chief advocate AI & data center en VP bij Schneider.
Aan de bron van al die evolutie ligt een honger naar AI die, weliswaar volgens de bouwers van datacenters als Nvidia en Schneider, onstilbaar is. ‘We zien geen einde voor de hoeveelheid IT-capaciteit die we nodig hebben,’ aldus Carlini. Zeker de volgende paar jaar moet al die AI bovendien vooral uit grote datacenters en zogeheten ‘AI factories’ komen. Dat zijn toegewijde, gespecialiseerde datacenters voor kunstmatige intelligentie.
‘Bedrijven zijn nog volop bezig met het testen van cloudmodellen,’ zegt Carlini daarover. ‘Ze zijn nog niet klaar om hun eigen private, efficiënte AI-modellen in edge AI stacks te gebruiken. Maar als je AI-modellen in je core business wilt, moet je op lange termijn wel back-upoplossingen hebben.’
Inference
Die edge AI stacks zijn dus voor een iets verdere toekomst, wanneer bedrijven weten hoeveel computerkracht ze nodig hebben. Een en ander heeft te maken met de ‘inference’, zijnde hoe vaak je AI-modellen gebruikt, en welke je waarvoor inzet. ‘Als je momenteel een Google-zoekopdracht doet, gaat die naar Gemini, niet meer naar de oude zoekmachine. Dat is AI inference,’ zegt Carlini aan Data News. ‘Wanneer je een prompt schrijft, of je vraagt iets, is dat een inference. Stuur je die naar ChatGPT, dan gebruikt dat model daarvoor 1,5 biljoen parameters. Het is getraind op zowat het hele internet, maar je hebt dat niet nodig voor elke vraag.’ Voor simpeler opdrachten kan je net zo goed een kleiner model gebruiken, is het idee. ‘Als je een medisch bedrijf bent, moet de bot alleen antwoorden weten op jouw medische vragen, je hebt al de rest niet nodig. En je wil daar ook niet voor betalen,’ aldus Carlini.
‘Het is momenteel erg moeilijk om te schalen voor de exacte noden die je hebt omdat het systeem nog volop aan het evolueren is’
Hij ziet meer bedrijven hun eigen specifieke modellen trainen op de eigen niet-publieke data. Idealiter is zo’n model ook net krachtig genoeg om te doen wat je wil dat het doet, en niet meer. Maar da’s niet zo simpel, zegt Carlini. ‘Je wil een model dat toegewijd is en geen overdreven capaciteit gebruikt, want dat is inefficiënt. Maar momenteel is de industrie nog bezig met uitvissen hoe ze die applicaties nuttig maken. Ze weten niet hoeveel queries ze nodig hebben, en hoe groot die queries zijn. Het is momenteel erg moeilijk om te schalen voor de exacte noden die je hebt omdat het systeem nog volop aan het evolueren is.’
En dus is het antwoord voor het bedrijf voorlopig ‘meer datacenters’. Vaak zelfs specifiek nieuwe. ‘De huidige hyperscale datacenters zijn niet klaar voor AI factories’, zegt Vladimir Prodanovic, principal program manager bij Nvidia daarover. Om veel van die nieuwe AI-servers te zetten, heb je namelijk specifieke koeling en grote hoeveelheden elektriciteit nodig, en die is meestal niet voorzien in de huidige datacenters. ‘Die blijven hyperscale doen voor hun cloudklanten,’ aldus nog Prodanovic. Want laten we niet vergeten dat de hoeveelheid cloud workloads ook nog altijd omhoog gaat.
Het datacenter van de toekomst
In België is er voorlopig weinig plaats en vraag naar zo’n groot nieuw AI-datacenter, maar dat is misschien niet meteen nodig. ‘Als je kijkt naar een NVL72 of een GB300, de nieuwe servers van Nvidia, elk van die racks is op zichzelf een supercomputer. Die kosten enkele miljoenen per stuk,’ zegt Steven Carlini. ‘Er zijn dus hoe dan ook weinig bedrijven die een heel datacenter vol met dat soort servers kunnen zetten.’
Vraag is natuurlijk of er in België überhaupt nog ruimte is voor een groot datacenter. ‘Ruimte is er altijd wel,’ zegt Martijn Aerts, VP Secure Power Belgium. ‘Je kan altijd nog naar Wallonië uitwijken, al staat men daar sceptischer tegen datacentra dan in bijvoorbeeld Vlaanderen.’ Daar komt bij dat deze nieuwe datacenters van de toekomst steeds minder plaats gaan innemen, volgens Carlini: ‘Naarmate ze meer op elkaar worden gepakt, gaan ze ook minder ruimte innemen. De IT-ruimte van zo’n datacenter is veel kleiner. Ze hebben nog wel koeling nodig en veel energie en back-upgeneratoren, maar dan nog zal het geheel fysiek meer compact zijn dan nu. Toch wanneer je een nieuw datacenter gaat ontwikkelen.’
Toch gaan er in ons land niet meteen hele nieuwe datacenters, en al zeker geen AI factories, uit de grond springen, vermoeden ze bij Schneider. ‘Een heel datacenter is misschien te veel gevraagd,’ aldus Aerts. ‘Dat zijn honderden miljoenen die je moet investeren, daar is momenteel geen partij voor. Na die investering heb je dan alleen nog maar kosten gemaakt, en je moet nog klanten hebben.’
Hij ziet meer toekomst in zogeheten ‘edge hubs’ en hybride modellen. ‘We hebben nu in België vooral traditionele datacenters staan: luchtgekoelde, traditionele datacenters,’ legt hij uit. ‘AI vraagt een veel groter vermogen en liquid cooling. Een hybride model kan daar in kleine stapjes nieuwe servers implementeren zonder dat je er meteen miljoenen tegenaan te moet gooien.’ Bij zo’n hybride model ga je geleidelijk aan oudere racks of pods vervangen. ‘We bieden bijvoorbeeld voorgefabriceerde modulaire modellen aan, je kan daarmee één rack uit je pod nemen en vervangen door een nieuw. Dan heb je 120 kilowatt aan rekenkracht. Daar kom je wel even mee toe. En dat zit in een gesloten loop, met liquid cooling. Je kan dat in een traditionele omgeving zetten.’
Eens de vraag groot genoeg is, zouden er dan eventuele nieuwe datacenters kunnen komen. ‘Als je kijkt naar bedrijven als LCL of Datacenter United, die zijn daar echt wel mee bezig,’ zegt Aerts. ‘Ze houden de vraag en de markt zeker in de gaten, alleen is het niet zeker wanneer die vraag groot genoeg wordt.’
datanews.knack.be/nieuws/bedrijven/schneider-electric-wil-ai-vergroenen/