De app laat gebruikers toe om compatibele modellen te vinden die op hun lokale toestel bijvoorbeeld beelden kunnen genereren of vragen kunnen beantwoorden.
De app, genaamd Google AI Edge Gallery, staat op Github. Je kan hem voorlopig voor Android downloaden, maar hij moet ook naar iOS komen. Het idee is alvast om offline AI-modellen te draaien op edge-toestellen, zoals smartphones. Daarbij moeten ze kunnen draaien op alleen de processoren aan boord van dat toestel, en dus hopelijk efficiënter zijn dan de modellen die een heel datacenter gebruiken.
Het voordeel van een offline AI-model is alvast dat je als gebruiker de privacy beter in eigen handen houdt. Als je gevoelige vragen stelt aan een chatbot die alle data naar de cloud stuurt, zit de kans er in dat de data die je zelf ingeeft gelekt wordt of gebruikt om de AI verder te trainen. Bij een offline model blijft ook jouw input op je eigen toestel. Anderzijds zijn deze modellen vaak wel minder krachtig.
De Google AI Edge Gallery zelf (die nog in ‘experimentele Alpha’ is), is daarbij in principe een mini app store die voor je op zoek gaat naar dit soort offline AI-modellen. Van in de app kan je bijvoorbeeld op zoek gaan naar een AI die taken kan volbrengen zoals AI-chatten of beelden genereren. Wanneer je zo’n taak aanklikt, krijg je een lijstje met modellen die dat voor je zouden kunnen doen op jouw toestel. Zoals gezegd is dit alles nog in het Alpha-stadium, dus hoe vlot de AI al die taken kan volbrengen, is nog de vraag. De app geeft al wel een idee van de oplossingen die er allemaal voorhanden zijn.