Badoo lanceert Rude Message Detector als bescherming tegen online misbruik

Michael Slender
Door Michael Slender
3 minuten leestijd

Datingapp Badoo heeft een ‘Rude Message Detector’ geïntroduceerd die automatisch beledigende, discriminerende of overdreven seksuele berichten signaleert. Met deze ‘detector’ – wat in feite een stukje software is – wil de datingapp voorkomen dat je ongewenste berichten te zien krijgt. De tool maakt gebruik van machine learning, een vorm van kunstmatige intelligentie (AI) dat beter wordt naarmate het meer wordt gebruikt.

Volgens Badoo weet de detector onderscheid te maken tussen plagen en verbaal geweld. Op deze manier wil Badoo je beschermen tegen schadelijke berichten die verstuurd worden in de app. Het werkt bovendien niet alleen met de Engelse taal, want het is een meertalige taalprocessor. In de aankondiging zegt Badoo dat het via meer dan 2 miljoen berichten verfijnd is en dat het 100 talen herkent.

Hoe werkt de ‘Rude Message Detector’?

De Rude Message Detector is getraind om elke tekst te detecteren die kan worden opgevat als onbeleefd, beledigend, homofoob of discriminerend. Wanneer je een bericht ontvangt in de app dat schadelijk of kwetsend voor jou kan zijn, kan Badoo tussenbeide komen via een pop-upbericht. De detector volgt de gesprekken op de app in real-time, wat betekent dat alle gesprekken door het algoritme worden gevolgd en beoordeeld.

Nu populair:

lexa "Serious Dating, Crazy Love: Lexa is waar je moet zijn. Voor mensen met inhoud die iets échts zoeken."

Als de gebruikte taal niet schadelijk voor je is, dan kun je het bericht van Badoo negeren. Als het echter ongewenst of ongepast is, dan kun je het gesprek rechtstreeks via het pop-upbericht aan de appmedewerkers melden. In het bericht staat vermeld hoe je dit kunt doen. Mocht er sprake zijn van een ernstig geval, dan kan Badoo ook proactief onderzoek doen naar degene die het bericht heeft verstuurd. Zo kan Badoo zelf ook actie ondernemen tegen de gebruiker die het schadelijke bericht heeft verzonden.

Welke berichten de detector zoekt

De Rude Message Detector is geleerd om berichten te identificeren binnen drie verschillende categorieën: seksueel, beledigingen en identiteitshaat. Het kan deze categorieën onderscheiden van de normale, niet-aanstootgevende manier berichten en woorden die singles gebruiken op de datingapp:

  • Seksueel – berichten met seksuele inhoud en overdreven seksuele opmerkingen.
  • Beledigingen – directe beledigingen.
  • Identiteitshaat – elke discriminatie of aanval op ras, seksuele geaardheid, genderidentiteit meer.

De nieuwe veiligheidsfunctie maakt gebruik van machine learning om de taal te verwerken, zodat het ook kleine en subtiele verschillen in het taalgebruik kan identificeren. Gaandeweg leert het systeem zo om nog beter te begrijpen of de verzonden berichten schadelijk zijn. Onlangs heeft Badoo ook al een Screenshot Block-functie gelanceerd om gebruikers te beschermen.

Verliefd worden is meer...

... dan geluk hebben. Er zijn twee personen voor nodig die ervoor openstaan. Bij één app weten ze precies hoe ze die twee mensen kunnen samenbrengen voor een langdurige relatie. De matching in deze succesvolle app heeft één doel: het koppelen van mensen die écht bij elkaar passen. Ontdek zelf hoe 1 op de 3 leden er een partner vindt.

Deel dit artikel
Geef je reactie