Yahoo heeft een algoritme ontwikkeld dat zelfstandig kan bepalen of onlinereacties beledigend zijn of niet. Het algoritme kon in 90 procent van de gevallen bepalen of er sprake was pesten, beter dan andere software die hetzelfde probeert.
De vijf Yahoo-onderzoekers gebruikten een combinatie van kunstmatige intelligentie en crowdsourcing. Als basis gebruikten ze de reacties bij berichten op Yahoo News en Yahoo Finance.
De meeste software probeert reacties te peilen door naar hatelijke woorden of zinsnedes te kijken. Als die woorden worden verbasterd werkt de software al niet meer en al helemaal niet als er vitriool wordt gespuwd zonder scheldwoorden te gebruiken. Ook hebben ze moeite met sarcasme.
Het Yahoo-algoritme analyseerde de lengte van de reacties, het aantal beledigende woorden en interpunctie om tot een beeld te komen van de typische beledigende opmerking. Mensen die getraind waren om pesten te herkennen gaven de commentaren ook een score, waar het algoritme dan weer van leerde.
Het algoritme is nog niet getest buiten de dataset van Yahoo, maar het bedrijf denkt dat het een ‘enorme stap vooruit’ is in het verwerken van natuurlijke taal. (ANP)
