We vertrouwen robots sneller dan mensen, en dat kan een probleem vormen

Hoewel we ons graag zorgen maken over robots die onze job gaan inpikken, of die een kunstmatige intelligentie ontwikkelen om de hele wereld op te blazen, blijkt in de praktijk dat mensen best veel vertrouwen hebben in robots. Het zou dan ook leuk zijn als die dingen effectief beveiligd waren.

Uit een recente studie moet blijken dat 64 procent van de werknemers meer vertrouwen heeft in een robot dan in hun (menselijke) baas. We kunnen daar conclusies uit trekken over de managementcapaciteiten van de modale manager, maar het is alvast niet de enige studie die aantoont dat, ondanks all sci-fi horrorverhalen, mensen gewoon bijzonder veel vertrouwen hebben in robots. Ironisch genoeg betekent dat meteen ook dat ze een beveiligingsrisico vormen.

De studie werd uitgevoerd op vraag van softwarebedrijf Oracle en bevroeg wereldwijd 8.370 werknemers, managers en hr-medewerkers in juli en augustus van dit jaar. Daaruit moet blijken dat bijvoorbeeld het vertrouwen van Chinese en Indiase werknemers in robots een pak hoger ligt dan het gemiddelde, met bijna negentig procent de ondervraagden in die landen die optimistisch zijn over een robot collega. 82 procent van alle ondervraagden dachten ook dat robots bepaalde dingen beter konden dan hun manager.

Sociale robots

De studie van Oracle draait voornamelijk over software, maar hoe zit het met de mechanische robots? Ook daar kijken we op een bijzondere manier naar, zegt Tony Belpaeme, professor Robotica aan de UGent. Hij doet onderzoek naar sociale robots, de toestellen die je moeten helpen in het huishouden en vooral een goed gesprek moeten kunnen aangaan. Belpaeme en zijn team kwamen bij eerder onderzoek al tot de conclusie dat robots groepsdruk kunnen uitvoeren op kinderen, maar hij heeft ook tests gedaan rond vertrouwen van robots. En dat ligt best hoog, al was het maar omdat de toestellen er meestal schattig uitzien.

“Het is erg makkelijk om artefacten te maken die ons aanspreken,” zegt Belpaeme op het podium van de Kaspersky Next-conferentie waar Data News aanwezig was. “We weten al heel lang hoe we dingen kunnen maken die het sociale deel van ons brein aanboren. Kijk bijvoorbeeld naar vroege animaties.” Het is dan ook niet toevallig dat de meeste sociale robots ronde gezichtjes hebben, met grote ogen en kinderlijke propporties, of in het geval van de therapeutische robot Paro er gewoon uitzien als een baby-zeehond. Sociale robots moeten dan ook vriendelijk overkomen.

Pizza

En ze zijn daar goed in, gaat Belpaeme verder, tot het punt dat ze op plekken geraken waar ze niet zouden mogen geraken. Voor hun experiment rond vertrouwen kozen Belpaeme en zijn team een gebouw in Gent met op de begane grond een openbare ruimte, en op de hogere verdiepingen kantoren van een onderzoeksbedrijf, waar alleen bevoegden binnen mogen. Werknemers moeten meerdere met badge beveiligde deuren door voor ze binnen geraken, en zijn ook getraind om mensen zonder badge aan te spreken. “Wij wilden weten of we een robot dat gebouw binnen konden krijgen via ‘tailgating’,” zegt Belpaeme. In de praktijk lieten ze de robot rondhangen bij de beveiligde deur, en als er iemand langskwam, vroeg het toestel om die open te houden zodat hij ook binnen kon. “Zo’n twintig procent van de mensen die passeerden sprak de robot aan, bijvoorbeeld met de vraag wat ie daar kwam doen. Veertig procent negeerde de robot, en de andere veertig opende de deur en liet hem in het beveiligde gebouw binnen,” aldus Belpaeme.

Een vrij hoge succesfactor, dus, die het team de volgende dag nog probeerde te verbeteren. “We gaven de robot een pizzadoos mee en lieten hem rond de middag bij de deur rondhangen. Daarmee hadden we een succesfactor van 100 procent,” zegt hij. “Als je een robot bent die pizza brengt, geraak je altijd binnen.”

Wat de experimenten van Belpaeme aantonen, is dat robots vaker vertrouwd worden dan mensen. Een rare (menselijke) snuiter die rondhangt voor een beveiligde deur, ga je niet snel binnenlaten, maar dat is anders met een robot. Dat werkt ook met andere interacties. In een tweede experiment ging het team proberen om via een gezelschapsrobot gevoelige informatie uit vrijwilligers te krijgen. “We vroegen naar het soort info waarmee je wachtwoorden kan veranderen, zoals geboortedata, de straat waar je opgroeide, je eerste auto, favoriete kleur, of je moeders geboortenaam,” aldus Belpaeme. Ook hier komen robots makkelijker aan de bak dan de meeste mensen, toch in situaties buiten pakweg een eerste date. “In minder dan vijf minuten kwamen we minstens vijf verschillende stukken gevoelige informatie te weten,” zegt Belpaeme.

“Aan mensen zou je die informatie niet geven”, gaat hij door. Maar uit zijn onderzoek moet onder meer blijken dat we op een speciale manier naar robots kijken. “Robots worden gezien als iets tussen mensen en dieren,” zegt hij.

De robot is lek

Belangrijke vraag dan: is dat een probleem? “Mensen gaan er van uit dat robots gesloten systemen zijn,” zegt Belpaeme. “Ze geloven dat wat in de robot terechtkomt, ook in de robot blijft, en dat is natuurlijk niet zo. Het gaat om genetwerkte systemen. Die robot is ook eigendom van iemand.”

Het baart, misschien niet toevallig, ook securityonderzoekers als Kaspersky zorgen. “De meeste robots worden gebouwd met het Robot Operating System (ROS) als besturingssysteem”, zegt Dmitry Galov van Kaspersky. Dat besturingssysteem is een collectie van tools, libraries en conventies, dat vooral gemaakt is om zo snel en efficiënt mogelijk te experimenteren met de technologie.

Zit niet in ROS: een beveiligingslaag. “Deze tool is gemaakt door ontwikkelaars voor ontwikkelaars,” zegt Galov. “Voor hun onderzoek was het niet belangrijk dat er beveiliging inzit. Robots hebben ook altijd geïsoleerd gewerkt, maar moderne robots werken in genetwerkte omgevingen: in je huis, in fabrieken enzovoort.” Hij geeft het voorbeeld van een babysitter robot, die door een beetje hacker woorden in de mond kan gelegd worden. Of die, zoals in het onderzoek van Belpaeme, gebruikt kan worden om aan social engineering te doen en bijvoorbeeld wachtwoorden te ontfutselen.

“Er is ondertussen een nieuwe versie van ROS, genaamd ROS2, die gebruik maakt van moderne libraries en technologieën, en die ook nieuwe security features bevat. Maar die is nog niet wijdverspreid”, zegt Galov, “omdat het voor experimenten makkelijker is om met een simpeler tool te werken.”