AI komt naar uw pc met zijn eigen hardware
Gevoelige gegevens privé houden en AI-workloads sneller uitvoeren? Zoek niet verder dan AI-pc’s met Intel Core Ultra-processoren met ingebouwde Neural Processing Unit (NPU).
AI-workloads uitvoeren met gevoelige gegevens in de openbare cloud heeft zijn nadelen, maar een nieuwe generatie laptops kan nu heel wat van die taken lokaal uitvoeren, in kleinere vorm en tegen veel lagere kosten.
CPU’s kregen meerdere hardware-add-ons om te helpen met het harde werk achter verschillende computer-workloads sinds de pc’s in de late jaren ‘70 opkwamen. Intel breit een vervolg aan deze inspanning met een speciale AI-accelerator, een zogenaamde NPU, speciaal voor energiezuinige, continue AI-workloads.
De Intel® Core™ Ultra processoren die de AI-pc’s van Intel aandrijven, zorgen ervoor dat AI-workloads van de cloud naar de pc worden verplaatst, zodat latentie en kosten verminderen en gevoelige gegevens privé blijven door te zorgen dat ze de pc nooit verlaten. Dit heeft geen invloed op de CPU-prestaties of de batterijduur en het vertraagt de computer niet terwijl er bits verwerkt worden.
Dat is goed nieuws, want AI-workloads verlopen vaak heel anders dan de dagelijkse workloads van webbrowsers, tekstverwerkers, spreadsheets, enz. NPU’s zijn geoptimaliseerd om over tonnen parallelle verwerkingskracht te beschikken en kunnen die inzetten voor het grote aantal wiskundige bewerkingen die AI nodig heeft. Ze hoeven niet supernauwkeurig te zijn, maar ze moeten wel snel zijn en op de achtergrond draaien zonder de batterij leeg te zuigen.
Om de efficiëntie te verbeteren en de batterijduur te verlengen, heeft Intel al processen overgeheveld naar afzonderlijke cores zoals P-cores (prestatie-cores) en E-cores (efficiëntie-cores), afhankelijk van de verwerkingsbehoefte. Voor toepassingen zoals beeldverwerking, verwerken geïntegreerde grafische eenheden (GPU’s) weergaveactiviteiten, omdat GPU’s sterk geoptimaliseerd zijn voor die taken. Het is veel efficiënter om een GPU enkel over beelden te laten gaan en de CPU niet te storen, die kan zich dan op andere kritieke taken toeleggen.
Probeert men de beveiliging van toestellen te verbeteren met AI, dan wordt het leven wellicht eenvoudiger. De mogelijkheid om zaken als het zoeken naar phishing-e-mailpogingen uit te besteden aan de NPU en de resultaten vervolgens te rapporteren aan de beveiligingssoftware van het systeem, versnelt aanzienlijk het detecteren.
Hardware wordt steeds meer populair om malware beter te detecteren. Nu kan deze ook taken uitvoeren zoals het detecteren van malware op een laag niveau en het doorgeven van de resultaten van AI-verwerking aan beveiligingssoftware om schadelijke code te verwijderen.
In het verleden zagen we hoe hardware-oplossingen voor beveiliging en privacy hun eigen hardware kregen, waaronder beveiligde externe schijven, uitbreidingskaarten voor het offloaden van webverkeerscodering, cryptografische processoren zoals TPM-chips voor het beveiligen van de geheimen van onze pc’s, enz. Vandaag bevatten hardware- en softwarebundels geavanceerde mogelijkheden die ontwikkeld zijn door de samenwerking van Intel met ESET, zoals de Intel® Threat Detection Technology en de Hybrid processor architecture.
Verwacht wordt dat die trend zich zal voortzetten. Naarmate de integratie van speciale GPU’s en NPU’s vordert, zal de processor van uw laptop veel geavanceerdere AI-taken naadloos op de achtergrond uitvoeren, zelfs zonder internettoegang, en mogelijk uw AI-aangedreven laptop nog slimmer laten lijken.
Hoewel het gebruik van speciale AI-hardware in pc’s nog in zijn kinderschoenen staat, zijn de mogelijke toepassingen in cybersecurity immens. Embedded NPU’s zijn slechts het begin. Misschien zien we in de toekomst nog andere verbeteringen op hardware-niveau in processoren die beveiligingssoftware kunnen benutten, niet enkel om prestaties te verbeteren, maar ook om computers veiliger te houden terwijl ze zware AI-workloads uitvoeren.
Cameron Camp, Researcher ESET