Met een nieuwe rol die OpenAI weggelegd ziet voor zijn GPT-4, die van contentmoderator op social media, is het duidelijk dat taalmodellen van dit slag nog op zoek zijn naar hun ware functie in ons leven en werk. Dat maakt het niet meer dan logisch dat analysebureau Gartner de hele generatieve AI een nieuwe positie toebedeelde in zijn bekende hypecyclus: de Piek van Opgeblazen Verwachtingen.
Moderator zijn op publieke forums op het internet is, in deze tijden van post-waarheid en post-schaamte, een harde, ondankbare, tijdrovende, mentaal slopende job. Een ideale job dus om over te laten aan AI, vond OpenAI, het Amerikaanse techbedrijf achter GPT-4. OpenAI zegt dat het een manier heeft gevonden om zijn taalmodel te gebruiken voor het modereren van webcontent.
De techniek die OpenAI ontwikkelde steunt op een set van duidelijke richtlijnen op gebied van toxische en illegale content, waarnaar GPT-4 op zoek gaat in grote hoeveelheden tekst. Ook, zegt het bedrijf, is het taalmodel nu al verbluffend bedreven geraakt in het helpen om nieuwe beleidslijnen te creëren.
Op schaal
De belangrijkste opsteker is dat de inzet van GPT-4 het modereren van enorme hoeveelheden internetcontent van gebruikers schaalbaarder maakt. Het taalmodel kan tienduizenden menselijke moderators vervangen, net zo accuraat werken, en misschien zelfs consequenter zijn in het tegenhouden van inhoud die geen plaats heeft in het publieke debat, zo claimt OpenAI.
Op dit moment zoeken de bedrijven achter social media dat soort schaal vooral door de inhoud te laten monitoren door gespecialiseerde bedrijven, die een legertje aan moderators in dienst hebben. Meestal in lageloonlanden, en met weinig aandacht voor de mentale druk die de toxische en soms traumatiserende content op de medewerkers kan zetten. Dat soort werk laten vervangen door een AI-model is bijna logisch, zegt Lilian Weng, directeur veiligheidssystemen bij OpenAI, tegen nieuwssite Semafor. ‘Dit is een goede stap voorwaarts in de manier waarop we AI gebruiken om problemen in de echte wereld op te lossen op een manier die gunstig is voor de samenleving.’
Klaar voor de duik
De nieuwe toepassingen voor generatieve AI rukken op, maar de torenhoge verwachtingen die we stellen in de technologie overstijgen nog altijd de effectieve toepassingen die ervoor worden verzonnen. Daarom plaatste marktstudiebureau Gartner generatieve AI op de Peak of Inflated Expectations in zijn befaamde Gartner Hype Cycle. Het punt waar de media en de slimmeriken in de industrie er maar niet over kunnen zwijgen, maar dat inflatoire enthousiasme ook onrealistische verwachtingen schept.
Wie die hypecyclus van Gartner een beetje kent, weet dan ook wat het volgende station wordt: de Trough of Disillusionment, het punt waar er experimenten mislukken, startups sterven, en de publieke interesse afneemt. Het zal nog twee tot vijf jaar duren voordat de transformatieve kracht van generatieve AI voor iedereen duidelijk zal worden, zegt Gartner.
Fout opgemerkt of meer nieuws? Meld het hier