Data News selecteert de meest opmerkelijke artikels van 2017. In augustus besloot Facebook om een project rond kunstmatige intelligentie te schrappen nadat robots hun eigen taal ontwikkelden. Dat klopte deels, maar de feiten waren een pak minder griezelig dan u zou denken.
Gisteren kon je op verschillende media lezen dat Facebook een experiment moest stoppen tussen twee robots nadat bleek dat ze hun eigen taal ontwikkelden. Hoewel de feiten in de meeste artikels correct waren, werden ze maar al te gretig aangevuld met veronderstellingen dat het een griezelige evolutie is, met de suggestie dat machines met kunstmatige intelligentie een eigen brein ontwikkelen, aangevuld met beelden uit Terminator 2, de science fiction film waarin robots de wereld overnemen. U raadt het al: die veronderstellingen zijn fel overdreven en neen, dat schrijven we niet omdat een robot ons ertoe dwingt.
Wat is er gebeurd?
Facebook heeft een project lopen waarbij het twee chatbots (dus geen fysieke machines) met elkaar laat communiceren. De bedoeling was om hen te leren onderhandelen om bepaalde voorwerpen te verkrijgen van elkaar door hen te laten zeggen wat ze willen.
In praktijk bleken de robots niet de normale Engelse taal te gebruiken maar woorden die ver af stonden van wat u en ik als normale zinnen beschouwen. Het project werd niet stopgezet, wel werd er een bug opgelost zodat de betrokken onderzoekers de robots zelf beter zouden begrijpen.
Dat concept werd echter al snel opgeblazen tot ‘een geheime taal’ waardoor de illusie werd gewekt dat robots een eigen bewustzijn hebben en willen communiceren in een taal die mensen niet begrijpen.
Voor alle duidelijkheid, dit is een fragment van de bewuste geheime taal:
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Waarom spreken ze geen normaal Engels?
Dat chatbots afwijken van de Engelse taal is niet abnormaal, onder meer omdat ze die niet nodig hebben om hun relatief simpele taken uit te voeren. The Register sprak hierover met Ryan Lowe, een doctoraatsstudent aan McGill University die onderzoek doet bij OpenAI. Volgens hem moeten we ons geen zorgen maken. Zo is het al vaker voorgevallen dat chatbots terugvallen naar een soort morse-code om snel en efficiënt te communiceren met elkaar.
Geen regels, geen taal
“De taken die ze moeten uitvoeren zijn zeer beperkt en de taal die ze daarvoor gebruiken reflecteert dat: het is eenvoudig en nooit zoals een echte taal. Talen hebben een goed omlijnde syntaxis en grammatica en als die regels niet expliciet worden aangeleerd, dan zullen de agenten (chatbots) niet noodzakelijk in een verstaanbare taal spreken. Natuurlijke taal komt niet spontaan naar boven,” aldus Lowe aan The Register.
Of kort samengevat: als een robot met kunstmatige intelligentie enkel moet antwoorden met “Ja, dat komt in orde” of “Neen, dat zal niet lukken”, dan is de kans groot dat het zich beperkt tot een één of twee bliepjes om dat verschil te maken. Simpelweg omdat dat efficiënter is dan een volzin die het niet hoeft te gebruiken om een taak uit te voeren.
Marketing
The Register wijst ook de vinger naar bedrijven als Google, Facebook, Amazon of Microsoft zelf. Zij promoten hun chatbots immers consequent als machines met menselijke eigenschappen die je kennen, begrijpen en zelf kunnen denken.
De realiteit is dat het vooral gaat om algoritmes en het handig oppikken en verwerken van informatie. Bij sommige ‘slimme assistenten’ gebeurt dat vooral om je nog gerichter te kunnen bedienen met advertenties. Maar dat klinkt wel een pak minder sexy dan de belofte dat Siri, Cortana of Alexa je persoonlijke assistent is.
Fout opgemerkt of meer nieuws? Meld het hier