Opensource-specialist Red Hat en Facebook-moeder Meta hebben een nieuwe samenwerking aangekondigd om generatieve AI (GenAI) ‘toegankelijker, consistenter en goedkoper’ te maken voor bedrijven.
Beide spelers werken al langer samen. Zo wordt Meta’s AI-model Llama 4 al enige tijd ondersteund via Red Hat AI en vLLM, een opensource AI-platform dat taalmodellen sneller laat draaien. In de volgende fase bundelen Red Hat en Meta de krachten om de projecten Llama Stack en vLLM beter op elkaar af te stemmen. Op die manier moet het voor bedrijven zowel eenvoudiger als goedkoper worden om open-GenAI-technologie te gebruiken en in te zetten.
Inferentie
Volgens marktvorser Gartner zal tegen 2026 meer dan tachtig procent van de onafhankelijke softwareleveranciers AI integreren in hun bedrijfstoepassingen, tegenover nog slechts één procent vandaag. Dat toont volgens Red Hat en Meta aan hoe groot de nood is aan open en betrouwbare technologie. De nieuwe samenwerking moet ervoor zorgen dat GenAI-toepassingen soepel draaien op verschillende platformen, clouddiensten en AI-acceleratoren – vooral tijdens de fase waarin AI effectief gebruikt wordt: de inferentie, of simpel gezegd het vermogen om nieuwe kennis af te leiden uit bestaande kennis.
De open samenwerking vertaalt zich in twee belangrijke projecten. Allereerst is daar Llama Stack, ontwikkeld door Meta en beschikbaar als opensource. Het biedt standaard bouwstenen en koppelingen om AI-toepassingen eenvoudiger te bouwen en te beheren. Het andere project is vLLM, waar Red Hat een voortrekkersrol in heeft. Het betreft een inferentieserver die de prestaties van GenAI-modellen verbetert, waaronder ook Llama 4.