De zaak werd aangespannen door twee Britse chauffeurs voor de rechtbank in Amsterdam, waar Uber een van zijn hoofdkwartieren heeft. Zij vragen om data te kunnen inzien die Uber gebruikt om te beslissen welke ritten het aan wie toewijst. Veel van die informatie heeft een grote impact op hun job en hoeveel zij op een dag kunnen verdienen, maar is voor de chauffeurs grotendeels onzichtbaar, zo stellen ze. "De app beslist miljoenen keren per dag wie welk ritje toegewezen krijgt: wie de goeie ritjes krijgt, en wie de korte ritjes krijgt", zegt Anton Ekker, de advocaat die de zaak in Amsterdam leidt, aan de krant The Guardian. "Algoritmes en data geven veel controle maar de mensen die daar onderwerp van zijn, zijn zich er vaak niet bewust van."

Profilering

Volgens de aanklacht gebruikt Uber opmerkingen in het profiel van chauffeurs over ongepast gedrag, te trage ritten, enzovoort, zonder de chauffeurs daar zelf van op de hoogte te brengen. Chauffeurs zouden dus niet weten waarom hun 'score' opeens zakt. De aanklagers vragen daarom een volledig inzicht in hun eigen profiel, en in de regels die de AI gebruikt. Daar hebben ze onder GDPR-regels ook recht op, zo schrijven ze in de aanklacht. Gebruikers van apps hebben altijd het recht om data die bedrijven over hen bijhouden op te vragen. Verder is er ook artikel 22 van de Europese privacyreglementering die mensen het recht geeft om niet te worden onderworpen aan uitsluitend geautomatiseerde verwerking , waaronder profilering, als dat belangrijke gevolgen kan hebben. Omdat het hier gaat om iemands inkomen, zou je kunnen zeggen dat dat bij Uber het geval is.

De aanklagers melden dat ze meerdere keren verzoeken hebben ingediend om hun data in te zien, en dat ze die niet, of onvolledig gekregen hebben. Uber, van zijn kant, zegt dat het zijn best doet om mensen de juiste info te geven, en geeft ook aan dat het uitlegt waarom het soms niet in staat is om gegevens vrij te geven. Vooral in het geval van de algoritmes lijkt dat een moeilijk, omdat het niet altijd duidelijk is waarom AI tot een beslissing komt.

Freelancers of werknemers

Voor Uber ligt de zaak hoe dan ook vervelend. Dat soort transparantie zou chauffeurs meer macht kunnen geven om zich te verenigen en eisen te stellen. Ze zou ook brandstof kunnen leveren in andere zaken, vooral dan rond de vraag of chauffeurs freelancers, dan wel medewerkers zijn. Daarover start deze week een rechtszaak in het Verenigd Koninkrijk zelf, aangespannen door de App Drivers & Couriers Union, een vakbond van app-werkers. Als blijkt dat Uber 'performantietags' op profielen van chauffeurs plakt, dan zou dat in deze zaak kunnen worden gezien als 'management', ofte iets wat je doet met werknemers, niet met freelancers.

De rechtszaak kan echter ook verdere gevolgen hebben voor andere bedrijven die kunstmatige intelligentie gebruiken om een hele reeks processen te regelen. Als de rechtbank bevestigt dat bedrijven onder Europese privacyregels inzicht moeten geven in AI, en hoe algoritmes omgaan met werknemers, dan is dat in enkele gevallen lastig. Hoewel AI veel van ons leven bepaalt, is ze ook soms gewoon een 'zwarte doos'. Door de manier waarop we op dit moment via machine learning AI bouwen, zeker in het geval van deep learning, weten ontwikkelaars zelf niet altijd hoe zo'n algoritme werkt en waarom het tot bepaalde beslissingen komt.

De zaak werd aangespannen door twee Britse chauffeurs voor de rechtbank in Amsterdam, waar Uber een van zijn hoofdkwartieren heeft. Zij vragen om data te kunnen inzien die Uber gebruikt om te beslissen welke ritten het aan wie toewijst. Veel van die informatie heeft een grote impact op hun job en hoeveel zij op een dag kunnen verdienen, maar is voor de chauffeurs grotendeels onzichtbaar, zo stellen ze. "De app beslist miljoenen keren per dag wie welk ritje toegewezen krijgt: wie de goeie ritjes krijgt, en wie de korte ritjes krijgt", zegt Anton Ekker, de advocaat die de zaak in Amsterdam leidt, aan de krant The Guardian. "Algoritmes en data geven veel controle maar de mensen die daar onderwerp van zijn, zijn zich er vaak niet bewust van."Volgens de aanklacht gebruikt Uber opmerkingen in het profiel van chauffeurs over ongepast gedrag, te trage ritten, enzovoort, zonder de chauffeurs daar zelf van op de hoogte te brengen. Chauffeurs zouden dus niet weten waarom hun 'score' opeens zakt. De aanklagers vragen daarom een volledig inzicht in hun eigen profiel, en in de regels die de AI gebruikt. Daar hebben ze onder GDPR-regels ook recht op, zo schrijven ze in de aanklacht. Gebruikers van apps hebben altijd het recht om data die bedrijven over hen bijhouden op te vragen. Verder is er ook artikel 22 van de Europese privacyreglementering die mensen het recht geeft om niet te worden onderworpen aan uitsluitend geautomatiseerde verwerking , waaronder profilering, als dat belangrijke gevolgen kan hebben. Omdat het hier gaat om iemands inkomen, zou je kunnen zeggen dat dat bij Uber het geval is.De aanklagers melden dat ze meerdere keren verzoeken hebben ingediend om hun data in te zien, en dat ze die niet, of onvolledig gekregen hebben. Uber, van zijn kant, zegt dat het zijn best doet om mensen de juiste info te geven, en geeft ook aan dat het uitlegt waarom het soms niet in staat is om gegevens vrij te geven. Vooral in het geval van de algoritmes lijkt dat een moeilijk, omdat het niet altijd duidelijk is waarom AI tot een beslissing komt.Voor Uber ligt de zaak hoe dan ook vervelend. Dat soort transparantie zou chauffeurs meer macht kunnen geven om zich te verenigen en eisen te stellen. Ze zou ook brandstof kunnen leveren in andere zaken, vooral dan rond de vraag of chauffeurs freelancers, dan wel medewerkers zijn. Daarover start deze week een rechtszaak in het Verenigd Koninkrijk zelf, aangespannen door de App Drivers & Couriers Union, een vakbond van app-werkers. Als blijkt dat Uber 'performantietags' op profielen van chauffeurs plakt, dan zou dat in deze zaak kunnen worden gezien als 'management', ofte iets wat je doet met werknemers, niet met freelancers. De rechtszaak kan echter ook verdere gevolgen hebben voor andere bedrijven die kunstmatige intelligentie gebruiken om een hele reeks processen te regelen. Als de rechtbank bevestigt dat bedrijven onder Europese privacyregels inzicht moeten geven in AI, en hoe algoritmes omgaan met werknemers, dan is dat in enkele gevallen lastig. Hoewel AI veel van ons leven bepaalt, is ze ook soms gewoon een 'zwarte doos'. Door de manier waarop we op dit moment via machine learning AI bouwen, zeker in het geval van deep learning, weten ontwikkelaars zelf niet altijd hoe zo'n algoritme werkt en waarom het tot bepaalde beslissingen komt.