Kunnen de algoritmen van Google en Facebook een rol spelen bij zelfmoordpreventie?

  • Google’s depressievragenlijst moedigt mensen aan om hulp te zoeken
  • Facebook’s algoritme kan suicidaal gedrag online sneller herkennen dan een vriend/in
  • Algoritmen die je stemming op social media analyseren – de uitdagingen

Zelfdoding is wereldwijd een van de belangrijkste doodsoorzaken. Er worden dagelijks miljoenen depressie-gerelateerde berichten gepost op social media en ook Alexa en Siri krijgen elke dag miljoenen vragen die betrekking hebben op geestelijke gezondheidskwesties en zelfdoding. Een bijzonder schrijnend verhaal is dat van een veertienjarig meisje uit Miami dat zich in januari vorig jaar voor haar webcam ophing. De afschuwelijke gebeurtenis werd twee uur lang live gestreamd op Facebook. Onder de duizenden mensen die getuige waren van haar dood was een vriendin die de autoriteiten waarschuwde. Een jaar voor haar tragische einde had ze een bericht gepost waarin stond dat ze niet meer wilde leven. Ook in januari pleegde een andere tiener – uit Cedartown, Georgia – zelfmoord. Dit gebeurde een maand nadat ze in een blog had verteld dat ze misbruikt was en dat de misbruiker haar had aangemoedigd haar leven te beëindigen. Wat als deze posts gebruikt zouden worden als indicatoren om te voorkomen dat personen die risico lopen zichzelf iets vreselijks aandoen? Dat is precies waar de twee techreuzen Google en Facebook mee bezig zijn.

Google’s depressievragenlijst moedigt mensen aan om hulp te zoeken

Wanneer je met je mobiel op Google US zoekt naar symptomen van depressie, lanceert de zoekmachine sinds vorig jaar augustus – in samenwerking met de US National Alliance on Mental Illness (NAMI) – een venster met een screeningtest voor depressie (de PHQ-9-vragenlijst), een scherm met informatie, contactdetails van instanties en mogelijke behandelingsopties. Google en NAMI gebruiken de verzamelde anonieme informatie, die door miljoenen mensen wordt ingevuld, om een database te creëren die, in combinatie met andere gegevens, nuttig kan zijn voor het genereren van een digitale ‘depressie-vingerafdruk’.

De resultaten van de vragenlijst zijn uiteraard gevoelig en privé en Google heeft dan ook aangegeven ervoor te zorgen dat persoonlijke gegevens beschermd worden. De PHQ-9 vragenlijst kan de eerste stap zijn naar een goede diagnose en biedt hulp bij het vinden van een behandeling die zelfdoding kan voorkomen. NAMI’s CEO, Mary Gilibert, schrijft op Google’s blog dat slechts 50 procent van de klinisch depressieve Amerikanen daadwerkelijk behandeld worden. Ze geeft aan dat mensen met symptomen van depressie “na het optreden van symptomen gemiddeld pas na 6 tot 8 jaar een behandeling starten”. NAMI hoopt “dat door het beschikbaar stellen van deze informatie op Google meer mensen zich bewust zullen worden van depressie en hulp zullen zoeken”.

Google's depressievragenlijst moedigt mensen aan hulp te zoeken
Wanneer je met je mobiel op Google US zoekt naar symptomen van depressie, lanceert de zoekmachine sinds vorig jaar augustus – in samenwerking met de US National Alliance on Mental Illness (NAMI) – een venster met een screeningtest voor depressie (de PHQ-9-vragenlijst), een scherm met informatie, contactdetails van instanties en mogelijke behandelingsopties.

Facebook’s algoritme kan suicidaal gedrag online sneller herkennen dan een vriend/in

In reactie op de live gestreamde zelfmoorden heeft Facebook een algoritme geïntroduceerd dat social mediaberichten screent op teksten of afbeeldingen die kunnen wijzen op ernstige depressie, zelfbeschadiging of suïcidaal gedrag. En volgens Mark Zuckerberg kan kunstmatige intelligentie (KI) zelfmoordgedrag sneller herkennen dan een vriend/in. De KI leert welke woorden, beelden of emojis potentieel indicatief zijn voor suïcidale gedachten of handelingen. Wanneer deze berichten worden gesignaleerd, toont Facebook de gebruiker verschillende hulpmiddelen en wordt ook een Empathie Team gewaarschuwd. De gebruiker krijgt vervolgens een bericht te zien waarin staat: “Iemand denkt dat je op dit moment misschien extra ondersteuning nodig hebt en vroeg ons om hulp”. Die ‘iemand’ is overigens niet de KI, maar een menselijke medewerker die in actie komt en de posts van de gebruiker onderzoekt wanneer de KI een potentieel probleem signaleert.

Als het bericht van het Empathie Team niet het gewenste effect heeft en het verontrustende gedrag aanhoudt, kan Facebook zelfs alarmdiensten waarschuwen. Ze nemen echter verder geen contact op met de gebruiker. De combinatie van slimme algoritmen en professionele adviseurs die op verontrustende berichten reageren, zou in de toekomst een enorm verschil kunnen maken in het aantal gevallen van zelfmoord. Binnen een maand na de lancering had het algoritme al meer dan 100 mensen geholpen. En met de meer dan 2 miljard gebruikers kun je je ook een voorstelling maken van de omvang van de database ven Facebook.

Algoritmen die je stemming op social media analyseren – de uitdagingen

Natuurlijk moeten we ervan uitgaan dat deze zelfmoordpreventie-initiatieven zorgvuldig doordacht en oprecht zijn. Het is een positieve en hoopvolle ontwikkeling dat techbedrijven deze belangrijke gesprekken initiëren. Zoals bij veel nieuwe initiatieven en innovaties zijn er in dit geval echter ook een aantal uitdagingen en kanttekeningen. De algoritmen die de berichten op social media en de antwoorden op de vragenlijst van Google analyseren, zijn nog lang niet perfect. De manier waarop depressie of andere geestelijke problematiek tot uiting komt en hoe men naar hulp zoekt kan per persoon, per land en per cultuur sterk verschillen. Daarnaast spelen ook seksuele geaardheid of identiteit en geslacht een belangrijke rol. Zijn de algoritmen in staat om die verschillen op te pikken? Bovendien kondigen mensen die zelfdoding overwegen dit over het algemeen niet aan en vaak ontkennen zij zelfs dat ze met geestelijke problemen kampen.

Omdat Google en Facebook niet transparant zijn over de manier waarop, in welke mate en met wie ze hun bevindingen precies delen, maken critici zich zorgen over privacykwesties. Er is vooralsnog geen duidelijkheid of (mentale) gezondheidsgegevens worden gebruikt voor gerichte reclamecampagnes – zoals voor psychotherapie of medicatie om depressie te behandelen. En laten we eerlijk zijn, informatie over de emotionele staat van een social media-gebruiker kan voor bedrijven zeer waardevol zijn. Zouden techreuzen eigenlijk niet eerst om toestemming moeten vragen voordat ze onze geestelijke gezondheid monitoren?

Toch kan een brede uitwisseling van bevindingen over het gebruik van specifieke tekst, woorden of gedragspatronen, die zich manifesteren voordat een zelfmoordpoging plaatsvindt, helpen om meer levens te redden. Aan de andere kant, de wetenschap dat Facebook mogelijk gevoelige informatie zou kunnen delen kan ook schadelijk zijn voor het vertrouwen, waardoor gebruikers die risico lopen hun gevoelens misschien juist weer minder snel online zetten.

Srini Pillay, M.D., CEO van NeuroBusiness Group, bekroond auteur en part-time assistant professor psychiatrie aan Harvard Medical School, schreef voor Fortune een stuk over social media en zelfmoordpreventie. Hij vindt dat we de volgende vraag moeten stellen: “Beïnvloedt social media zelfmoordrisico op positieve of negatieve manier?” Hoewel social media een belangrijke rol kan spelen bij het voorspellen en eventueel voorkomen van zelfdoding, zijn er volgens Pillay ook nadelen. Een daarvan is cyberpesten. Social media biedt pesters de mogelijkheid om hun slachtoffers vanuit en op een groot aantal platformen aan te vallen. Hij vervolgt dat KI onze kennis over en hulp bij interventies over het algemeen sterk kan verbeteren. Maar als er geen transparantie is en we ons niet houden aan het ‘do no harm’ principe, kan het de situatie mogelijk verergeren.

Gratis e-books voor 13 sectoren.

De wereld verandert in snel tempo en dat heeft grote impact op all sectoren. Daarom hebben we voor maar liefst 13 sectoren een compact e-book ontwikkeld. Daarin vind je de laatste trends op een rij, onderbouwd met interessante statistieken.
Dit blog is geschreven door Richard van Hooijdonk

Dit blog is geschreven door Richard van Hooijdonk

Trendwatcher, futurist en internationaal topspreker Richard Van Hooijdonk neemt je mee naar een inspirerende toekomst die leven, werken en ondernemen drastisch gaat veranderen.

Alle Lezingen