Nieuwe generatie Snapdragons levert generatieve AI binnenin smartphones, pc’s en wagens
Toekomstige Snapdragon-processoren van Qualcomm zullen generatieve AI rechtstreeks op de chip bevatten. Met die duik in kunstmatige intelligentie treft de Amerikaanse fabrikant meteen ook een nieuw slagveld aan tegen sectorgenoot Nvidia.
Op de Qualcomm Summit, die de Amerikaanse chipfabrikant eind oktober organiseert op het Hawaiiaanse eiland Maui, zal een eerste blik worden getoond op de nieuwe generatie Snapdragon-chips van het merk, waarin generatieve AI zal ingebouwd zijn. Kunstmatige intelligentie op de System on a Chip (SoC)-processor van een smartphone zelf is de ‘heilige graal’ voor Qualcomm, zei directeur productmanagement Ziad Asghar tegen de Amerikaanse techsite CNET: on-device-AI, die directe toegang heeft tot gebruikersdata als gps-patronen, zoekresultaten en foto’s, reageert veel sneller dan generatieve AI die ergens op een cloud staat. Bovendien is het beter voor de privacy, omdat al die gebruikersdata niet over het internet hoeven te worden gestuurd om er de kunstmatige intelligentie op los te laten.
KITT in ‘t echt
De eerste toepassing van de AI-gedreven SoC’s zal wellicht op smartphones uit het premiumsegment belanden, denkt Qualcomm. Maar de fabrikant wil ook soortgelijke AI-op-de-chip-oplossingen lanceren voor pc’s en automobielen. Daar kunnen ze, met de juiste software erop (Qualcomm werkt alvast samen met Meta’s LLama-taalmodel voor eerste experimenten), bijvoorbeeld uitgroeien tot een eigen persoonlijke assistent. Een die op het toestel zelf zit, en niet via de omweg van de cloud hoeft te worden aangesproken. ‘Voor diegenen onder ons die zijn opgegroeid met Knight Rider op tv: KITT zal nu echt zijn’, zei Asghar tegen CNET.
Lees ook: Nvidia kondigt AI-supercomputer aan
AI-strijd onder chipmakers
Er zijn al smartphones op de markt die rechtstreeks AI leveren vanop de chips in het toestel: fabrikanten als Apple en Samsung hebben er zo bijvoorbeeld in hun toestellen zitten. Maar de toepassing van die in gebouwde AI beperkt zich voorlopig tot interne taken, zoals het efficiënter beheren van de processen die zich binnen het toestel voltrekken. Ingebouwde kunstmatige intelligentie die effectief dingen genereert is voorlopig nog iets anders. Maar ook op dat vlak begint de concurrentie heftiger te worden.
Naast Qualcomm, dat de generatieve AI-functies wellicht eerst zal voorstellen op de derde generatie van zijn volgend jaar geplande Snapdragon 8-processor, heeft bijvoorbeeld ook sectorgenoot Nvidia zijn zinnen gezet op generatieve AI. Het Californische bedrijf ontwikkelde bijvoorbeeld een toolkit waarmee ontwikkelaars snel voorgetrainde generatieve AI-modellen kunnen maken, testen en aanpassen, en ook de toekomstige Nvidia GH200 -superchip moet, volgens het bedrijf, kunnen omgaan met ‘de meest complexe generatieve AI-workloads’.
Fout opgemerkt of meer nieuws? Meld het hier