De welbekende – vooral omwille van het expliciete geweld – game franchise Call of Duty onderneemt als eerste grote naam in de game-industrie stappen tegen haatberichten. De game implementeert AI in zijn chat-systemen.
Het Amerikaanse gamebedrijf Activision, dat achter de ontwikkeling van het first-person shooter spel Call of Duty zit, heeft aangekondigd dat het voortaan de chatconversaties tussen spelers zal monitoren via een AI-tool genaamd ‘ToxMod’. Op die manier wil de producent de strijd aangaan met ‘hate speech’, discriminatie en pesterijen. Die vormen al langere tijd een probleem binnen de gaming community – ook bij de meer ‘vreedzame’ games zoals FIFA. De tool bevindt zich momenteel nog in de beta-fase in Noord-Amerika, waar het in ‘Call of Duty®: Modern Warfare 2‘ en ‘Call of Duty: Warzone‘ wordt uitgetest. Op 10 november wordt de tool samen met de nieuwe ‘Call of Duty: Modern Warfare 3‘ ook in Europa en België voorgesteld.
ToxMod
De AI-tool ToxMod is een product van Modulate, dat gameproducenten aanmoedigt om hun gamers te beschermen tegen discriminatie en pesterijen. Het bedrijf ontwikkelde een AI-systeem dat haatberichten probeert te herkennen door te luisteren naar audio-opnames van chats tussen spelers. Het gaat om de eerste software in zijn soort, volgens Modulate zelf.
ToxMod zal ongepaste woorden en uitspraken dus opnemen en doorspelen aan producent Activision. Noch de AI-tool, noch Modulate zelf heeft de bevoegdheid om spelers van de server te gooien of de toegang te ontzeggen tot het spel. Activision zelf, daarentegen, zal volgens zijn eigen gedragscode oordelen of spelers gebannen moeten worden op basis van hun uitspraken. Die regels laten bijvoorbeeld zogenaamde trash-talk of beledigingen wel toe. Activision zal enkel ingrijpen wanneer het om hate speech en strafbare uitspraken gaat. In het verleden deinsde Activision er alvast niet voor terug om accounts te schrappen, nadat grote aantallen spelers betrapt werden op valsspelen.
Het enige nadeel van de AI-tool is dat ze- net zoals zoveel spraakherkenningssoftware – voorlopig alleen Engels kan herkennen. Na de globale verspreiding van de tool in november, zou ze volgens Activision ook meerdere andere talen moeten beginnen herkennen. Welke talen dat precies zijn, is nog niet bekend.
Privacy
De nieuwe AI-software registreert hate-speech in de vorm van audio-opnames en geeft die door aan spelontwikkelaar Activision, wat meteen wel vragen doet rijzen omtrent de privacy van de spelers. Daarom deelde Activision al een uitgebreide FAQ-pagina, om gebruikers van de nodige antwoorden te voorzien. Bij het communiceren via de Call of Duty gamechat lijkt er geen ontsnappen aan. Spelers kunnen wél hun communicatie met andere spelers volledig uitschakelen, maar dat heeft logischerwijze een impact op de spelervaring.
Alternatief: de chat-systemen van de gameconsoles zelf. Als spelers echt niet willen dat ToxMod en Activision meeluisteren, bestaat er nog steeds de mogelijkheid om met vrienden te communiceren via het communicatiesysteem van je Playstation, Xbox of PC. Daar hebben Activision en ToxMod helemaal geen toegang toe.
