Google krijgt kritiek omdat het artificiële intelligentie wil inschakelen om telefonische afspraken te maken. Dat die AI zich niet kenbaar maakt tegenover mensen is onethisch, beweren critici.
Op de I/O-ontwikkelaarsconferentie van Google stelde het bedrijf een nieuwe technologie voor die nog in ontwikkeling is. Duplex is een vernieuwing van Assistant, waarbij je je digitale assistent de opdracht kan geven om zelf een telefoongesprek voor je te voeren. Achteraf na de demonstratie oogstte de technologie naast veel lof ook een grote portie kritiek.
Tegenstanders van Duplex maken zich zorgen omwille van het feit dat de AI zo getraind is dat ze bewust een menselijke indruk wil geven. In een demonstratie toonde Google CEO Sundar Pichaï een echt telefoongesprek waarbij Duplex een kappersafspraak in orde bracht op een specifieke datum en tijdstip. Trots zei Pichaï tijdens de presentatie dat veel gesprekspartners van Duplex het verschil niet merken met een menselijke beller.
‘Euh…’
Als snel ontdekten we waarom dat zo is, want Duplex deed in niets denken aan de monotone stem die we van AI-assistenten zoals Assistant of Alexa gewoon zijn. De telefoneerstemmen van Google lieten pauzes vallen in zinnen, en maakten natuurlijke tussengeluiden zoals ‘euh’ en ‘mmmhmmm’.
Door dergelijke toevoeging lijkt een gesprek heel natuurlijk, maar het blijven interacties die de AI niet met dezelfde intentie als mensen gebruikt. De vraag is daarom of het wel ethisch is dat een AI telefoneert met een mens, zonder dat zijn menselijke gesprekspartner weet dat hij eigenlijk met software in interactie gaat.
Transparantie
“We erkennen het belang van de discussie rond Google Duplex – zoals we al van in het begin zeiden, transparantie rondom de technologie is heel belangrijk”, zegt een woordvoerder van Google in een reactie aan de techsite The Verge. “We ontwikkelen Duplex met een ingebouwde functie waarmee het systeem zichzelf identificeert. Wat we op I/O hebben getoond, was een vroege demo van de technologie, en we kijken ernaar uit om met feedback rekening te houden bij het ontwikkelen van het product.”
Twee ingenieurs van Google verduidelijkten die verklaring nog in een bericht op het blog van Google. In de zomer zal Google Duplex uittesten in combinatie met Assistant. Voor de testen van start gaan zal er een oplossing komen rondom het kenbaar maken van de AI bij telefoongesprekken. Het is nog niet duidelijk wanneer de functie via een update op smartphones zal verschijnen.
