Bumble’s ‘Private Detector’ blokkeert automatisch obscene afbeeldingen

Michael Slender
Door Michael Slender
4 minuten leestijd

Dating apps beginnen steeds meer gebruik te maken van kunstmatige intelligentie. Hoewel de deep learning functies voornamelijk worden ingezet om je betere voorstellen te kunnen doen, is er nu ook een dating app die het inzet tegen ongewenste dickpics en andere obscene afbeeldingen.

Private Detector

Het datingbedrijf achter de bekende Bumble en Badoo apps heeft een nieuwe AI-functie ontwikkeld. Het is in feite een penisdetector; een functie die automatisch penisfoto’s ontdekt, herkent en blokkeert. Handig, zodat je nooit meer geconfronteerd wordt met een ongevraagde foto van een geslachtsdeel. Het bedrijf noemt deze tool de ‘Private Detector’.

Op de achtergrond scant een algoritme alle foto’s die gebruikers uploaden. Dankzij de training met kunstmatige intelligentie is de tool in staat om met 98% zekerheid te zeggen of de foto naakte of andere expliciete beelden bevat. Gebruikers die dergelijke afbeeldingen ontvangen, kunnen kiezen of ze al dan niet worden weergegeven, maar rapporteren aan de moderators kan ook.

Nu populair:

lexa "Serious Dating, Crazy Love: Lexa is waar je moet zijn. Voor mensen met inhoud die iets échts zoeken."

Blurry

De tool voorkomt dat de gebruikers deze foto’s kunnen uploaden naar het profiel. En als zo’n foto naar een andere gebruiker wordt verstuurd dan wordt het vervaagd. De ontvanger kan er dan zelf voor kiezen om het te openen, met de waarschuwing dat het mogelijk om een dickpic of iets vergelijkbaars gaat. De expliciete afbeeldingen die door het systeem gedetecteerd worden vervagen dus automatisch.

Private Detector is een andere toepassing van dezelfde technologie die Bumble inzet om het verbod op afbeeldingen van vuurwapens na te leven. Op dit verbod wordt vanaf 2018 strenger gecontroleerd, volgens Andrey Andreev, de oprichter van het moederbedrijf van de dating apps (intern bekend als ‘The Group’).

“We kunnen alles detecteren: geweren, appels, slangen, noem maar op,” zegt Andreev. De Private Detector is niet alleen voor dickpics, voegt hij eraan toe; “het zal werken op afbeeldingen van zowel mannen als vrouwen.”

“Een vrouw-vriendelijk internet”

Bumble oprichter Whitney Wolfe Herd zegt dat toen zij en Andreev in 2014 samenwerkten om Bumble te creëren, ze een visie had voor “het maken van een internet dat vriendelijker was voor vrouwen.” Andreev was de ideale partner, zegt ze, omdat hij Badoo had ontwikkeld. En Badoo had al vele jaren ervaring met dating apps, inclusief een robuust technologieplatform, bewapend met gebruikersbeveiligingsfuncties zoals verificatie van profielfoto’s. Het bedrijf achter Badoo en Bumble gebruikt ongeveer 5.000 menselijke moderators die de afbeeldingen en in-app content controleren.

“De veiligheid van onze gebruikers is zonder twijfel de eerste prioriteit in alles wat we doen en de ontwikkeling van ‘Private Detector’ is een onbetwistbaar voorbeeld van die toewijding,” zegt Andreev in een verklaring. “Het delen van onzedelijke beelden is een wereldwijd probleem en het is aan ons, als sociale media netwerk, om het goede voorbeeld te geven en ongepast gedrag op onze platforms te weigeren.”

Whitney Wolfe Herd steunt ook een voorgestelde wet in Texas, Verenigde Staten, die het illegaal zou maken om zonder toestemming expliciete foto’s naar iemand te sturen. Ze creëerde Bumble bovendien nadat ze in 2014 Tinder verliet, om daarna een aanklacht van seksuele intimidatie in te dienen tegen de medeoprichters van de app. De ‘Private Detector’-functie is vanaf volgende maand beschikbaar op alle dating apps van het bedrijf, waaronder Badoo, Bumble, Chappy en Lumen.

Verliefd worden is meer...

... dan geluk hebben. Er zijn twee personen voor nodig die ervoor openstaan. Bij één app weten ze precies hoe ze die twee mensen kunnen samenbrengen voor een langdurige relatie. De matching in deze succesvolle app heeft één doel: het koppelen van mensen die écht bij elkaar passen. Ontdek zelf hoe Elitedating een extreem hoog succespercentage behaalt.

Deel dit artikel
Geef je reactie