Online terreur – hoe pakken we extremistische propaganda op het internet aan?

Ondanks dat de grote social mediabedrijven er alles aan doen om extremistische content te verwijderen, blijven terroristen nieuwe manieren vinden om hun haatzaaiende propaganda te verspreiden en nieuwe leden te werven.

  • Terroristen passen zich aan het digitale tijdperk aan
  • Waar gaan terroristen heen als ze eenmaal zijn verbannen van Facebook of Twitter?
  • Extremisten wijken uit naar opkomende apps
  • ‘Nieuw talent’ wordt via videogames geworven
  • Het dark web maakt extremisten onzichtbaar
  • Grote techbedrijven krijgen het niet voor elkaar om extremistische content aan te pakken
  • Wat kunnen overheden en techplatforms doen om het probleem op te lossen?
  • Wat we nodig hebben is wereldwijd gecoördineerd beleid

De opkomst van het internet heeft het voor mensen gemakkelijker gemaakt om contact te houden met elkaar. Via social media en berichten-apps kunnen miljoenen gebruikers met elkaar communiceren en hun stem laten horen. Maar in plaats van dat al deze communicatiekanalen hebben geleid tot een veiligere sociale omgeving, is de online wereld eigenlijk een broedgrond geworden voor  extremisten. Dankzij digitale media kunnen extremistische groepen als IS-terroristen en neo-nazi’s hun haatdragende boodschappen verspreiden, nieuwe volgers aantrekken en aanslagen voorbereiden. Terroristische groeperingen hebben geweld nodig om te overleven en volgens veiligheidsexpert Samir Saran heeft “technologie ertoe geleid dat dit geweld een ​​nieuw publiek en nieuwe locaties heeft weten te bereiken”. En hoewel technologiebedrijven en overheden zich bewust zijn van deze nieuwe dreigingen, blijkt het vinden van een effectieve en duurzame oplossing voor dit probleem een ontmoedigende taak.

Terroristen passen zich aan het digitale tijdperk aan

De aard van hedendaagse en toekomstige bedreigingen verandert. Een groot deel van de terroristische activiteiten vindt steeds meer online plaats omdat het internet het mogelijk maakt een veel groter publiek te bereiken. In 2016 heeft IS zijn ‘digital squads’ bijvoorbeeld dezelfde rang toegekend als degenen die fysiek ‘strijden’. En voor elke 800 mensen die IS online bestrijden zijn er 1.000 terroristen die nieuwe sympathisanten of strijders werven en allerlei propagandistische content produceren. Propagandavideo’s worden bijvoorbeeld gemaakt door een GoPro-camera aan een zelfgemaakte bewapende drone in Syrië te bevestigen. Of door cellen in andere landen aan te sporen 4K-video’s te maken van strijders die trouw beloven aan de IS-leider Abu Bakr al-Baghdadi en gewelddadige aanvallen plegen in zijn naam. Deze beelden worden vervolgens op social media en verschillende andere internetplatforms gepubliceerd.

 Een tekstvak met het aantal mensen dat IS online bestrijdt en het aantal terroristen dat nieuwe leden werft.

Voor elke 800 mensen die IS online bestrijden zijn er 1.000 terroristen die nieuwe strijders werven.

Andere terreurgroepen gebruiken vergelijkbare tactieken. Neo-nazi’s en blanke nationalisten posten extremistische verdragen, traktaten en manifesten op het web, in de hoop meer mensen warm te maken voor raciale, etnische en religieuze haat. Er is nu veel meer extremistisch materiaal online beschikbaar “dan wat je 25 jaar geleden bijvoorbeeld had kunnen vinden”, zegt Brian Levin, de directeur van het Centre for the Study of Hate and Extremism. Online websites als 8chan zijn een bastion van haatzaaiende content geworden. De schutter die 51 mensen doodde in twee moskeeën in Christchurch, Nieuw-Zeeland, heeft deze terreuraanslag zelfs live gestreamd op zijn Facebook-account en de link op 8chan gedeeld.

Terreurexpert Nikita Malik legt uit dat ongeveer 75 procent van de extreemrechtse groepsleden gebruikmaakt van Facebook om hun haatzaaiende content te verspreiden en de rest komt op Twitter terecht. Fundamentalistische Islamitische content wordt echter op veel meer platforms gedeeld, waaronder Facebook, YouTube, Twitter, Instagram en via verschillende apps. Veel techreuzen waren niet voorbereid op de convergentie van technologie en terrorisme. Aanvankelijk weigerden deze bedrijven ook om dit type content te censureren, met het argument dat dit soort delicate taken niet aan particuliere bedrijven kan worden toevertrouwd. Nu deze beslissing is teruggedraaid worden haatzaaiende en gewelddadige gebruikers direct verwijderd en geblokkeerd en proberen de social mediagiganten uit alle macht te voorkomen dat terroristische propaganda zich op hun platformen verspreidt. Terroristen hebben echter veel meer mogelijkheden dan werd vermoed.

Waar gaan terroristen heen als ze eenmaal zijn verbannen van Facebook of Twitter?

Een eerste optie zou kunnen zijn om gewoon weer nieuwe accounts aan te maken. Maar voor verificatiedoeleinden heb je daar in de meeste gevallen een mobiel nummer voor nodig. Dit probleem hebben verschillende terroristische cellen bijna op industriële schaal weten te omzeilen. Rabar Mala, een Britse burger die tot acht jaar gevangenisstraf is veroordeeld, gebruikte bijvoorbeeld 360 simkaarten om telefoonnummers naar extremisten in andere landen te sturen voor het aanmaken van nieuwe social media- en berichten-accounts.

 Een infographic met de digitale tools die terroristen gebruiken wanneer ze verbannen zijn van reguliere social mediaplatforms.
Terroristen die zijn verbannen van Facebook of Twitter gebruiken alternatieve kanalen als berichten-apps, videochat-apps en online games om hun propaganda te verspreiden en nieuwe leden te werven.

Terroristen die zijn verbannen van Facebook of Twitter kunnen ook alternatieve kanalen gebruiken, zoals de gecodeerde berichten-app Telegram en de videochatroomservice Paltalk. Sommige extremisten gebruiken het social mediaplatform VKontakte. Dit platform is vooral populair onder Russisch sprekende gebruikers en heeft lakse beveiligingsprotocollen voor het aanmaken van accounts. Nu deze platforms ook gaan optreden tegen extremistische content, wijken terreurgroepen uit naar nieuwe berichten-apps met chatgroepen waar je ook mediabestanden kunt delen.

Extremisten wijken uit naar opkomende apps

Een van deze apps is RocketChat, een open-source berichtenservice gericht op zakelijke gebruikers. RocketChat is beschikbaar in zowel een mobiele als desktopversie en heeft momenteel ongeveer 10 miljoen gebruikers. Amaq News Agency, het officiële nieuwscentrum van IS, was de eerste die een account aanmaakte bij deze app en droeg zijn volgers op om hetzelfde te doen. Het Engelstalige IS-mediabedrijf Halummu en het discussieforum Shumukh al-Islam hebben ook accounts geopend op RocketChat en uploaden hier content van hun belangrijkste Telegram-kanalen. Deze groepen blijven hun ledenbestand op het platform uitbreiden en hebben momenteel meer dan 700 gebruikers die op verschillende kanalen actief zijn.

Aan IS-gelinkte propaganda verscheen ook op het nieuwe social media-platform Koonekti. Het werd verspreid via een account dat gekoppeld was aan Nashir News Agency, een onderdeel van het ISIS-media-apparaat dat terroristische content verspreidt. De pagina is sindsdien van Koonekti verwijderd en is niet meer teruggekomen. Jihadisme-specialist Abdirahim Saeed zegt dat IS ook met social mediaplatform GoLike experimenteerde, evenals vele andere kleine en middelgrote apps en diensten, zoals Viber, Discord, Kik, Baaz, Ask.fm en zelfs micro-platforms die door één persoon beheerd worden.

Maar terroristen willen veel geavanceerdere technologieën exploiteren, zoals gedecentraliseerde applicaties (DApps). Met deze op blockchain gebaseerde apps kun je zonder tussenpersoon communiceren, waardoor het monitoren, verwijderen en blokkeren van illegale gebruikers en content veel moeilijker wordt. IS-aanhangers experimenteren al met gedecentraliseerde diensten als Riot en ZeroNet en door deze oplossingen op grotere schaal te implementeren, kunnen extremisten en criminelen toch via veilige digitale kanalen met elkaar communiceren.

‘Nieuw talent’ wordt via videogames geworven

Extremistische groepen die verbannen zijn van social mediaplatforms bedenken steeds creatievere manieren om jonge rekruten aan te trekken. Een van de meest recente manieren is online gamen, een favoriet tijdverdrijf voor miljoenen mensen overal ter wereld. Via videogames kunnen extremistische groepen als neo-nazi’s en bijvoorbeeld IS contact opnemen met potentiële rekruten en propaganda verspreiden. Overheidsfunctionarissen in de Verenigde Arabische Emiraten, hebben bijvoorbeeld bevestigd dat jonge Emiraten via online games gerekruteerd worden. De Amerikaanse National Security Agency (NSA) houdt zich hier ook mee bezig en monitort extremisten binnen games als World of Warcraft en Second life.

Steam, een distributieplatform voor digitale videogames ontwikkeld door Valve Corporation, wordt ook gebruikt om haatzaaiende content te verspreiden. Duizenden gebruikers maken deel uit van de communitypagina’s op dit platform die schietpartijen op scholen verheerlijken en neo-nazistische en blanke supremacistische groepen ondersteunen. Extremisten maken bovendien gebruik van de berichten-app Discord voor gamers. Deze app heeft ongeveer 130 miljoen gebruikers. Er zijn meerdere chatgroepen met pro-IS-namen, zoals bijvoorbeeld Al Bagdadi, die IS-content en comments van de groep over toekomstige operaties posten. Door gamingcommunity’s met haatzaaierij te besmetten trekken terroristische groepen nieuwe leden aan.

Het dark web maakt extremisten onzichtbaar

En omdat het terroristen op het traditionele web steeds moeilijker wordt gemaakt, verhuizen ze naar het dark web, een groep websites die niet worden geïndexeerd door zoekmachines en alleen toegankelijk zijn via speciale browsers als Tor. Onderzoekers hebben ontdekt dat de zogenaamde Electronic Horizon Foundation, een groep die de webbeveiliging van IS en zijn aanhangers onderhoudt, een site op het dark web beheert waar propagandistische content verspreid wordt en tips verstrekt worden over online anonimiteit. Cybersecurity-instellingen zijn zich terdege bewust van deze en soortgelijke bedreigingen en van het gevaar als terroristen en andere extremisten van het reguliere web verdwijnen en ‘onder de radar’ gaan waar ze – ongehinderd door wetshandhavingsinstanties – sympathisanten kunnen werven, strijders kunnen rekruteren en aanvallen kunnen voorbereiden. Maar dit probleem daadwerkelijk effectief (kunnen) aanpakken is een heel ander verhaal.

Grote techbedrijven krijgen het niet voor elkaar om extremistische content aan te pakken

Extremisten hebben dus allerlei uitwijkmogelijkheden als ze eenmaal van de reguliere  social mediaplatforms verbannen zijn. Social mediagiganten als Facebook en Google beweren dat ze bijna een oplossing hebben voor extremisten die digitale media gebruiken om nieuwe leden te werven. Menselijke moderators kunnen – met gebruik van machine learning algoritmen – ongewenste content volgens deze bedrijven in een ongekend tempo opsporen, verwijderen en blokkeren. Deze claims zijn echter geen weerspiegeling van de realiteit. In een studie die uitgevoerd werd als onderdeel van het Counter Extremism Project ontdekten onderzoekers bijvoorbeeld dat verschillende IS-video’s in 2018 met succes werden geüpload naar YouTube, duizenden keren bekeken werden en urenlang onopgemerkt bleven.

Bovendien zijn Facebook, Twitter en andere online platforms notoir ineffectief in het spotten van extremistische en haatzaaiende content in het Arabisch. Boeken als The Management of Savagery waren bijvoorbeeld gemakkelijk online te vinden, ondanks dat het bekend terroristisch materiaal is. “Arabisch, naast dat het beschouwd wordt als een heilige taal, biedt bovendien een soort van taalkundige firewall die tegenstanders moeilijk kunnen penetreren”. Terroristen proberen zelfs de algoritmen van Facebook te slim af te zijn door hun pagina’s als ‘educatief’ te classificeren en terroristisch materiaal als ‘boeken’ of ‘publieke figuren’ te omschrijven. En omdat algoritmen educatieve content niet snel verwijderen kunnen terreurgerelateerde groepen lange tijd onopgemerkt blijven.

Wat kunnen overheden en techplatforms doen om het probleem op te lossen?

Niet alleen techbedrijven maar ook politici proberen te voorkomen dat social mediaplatforms terrorisme verspreiden. De Nieuw-Zeelandse premier Jacinda Ardern en de Franse president Emmanuel Macron pleiten bijvoorbeeld voor een wereldwijde oplossing voor de convergentie van terrorisme en technologie. Het ontwikkelen van een effectief beleid en een cybersecurity-antwoord op dit probleem is een enorme uitdaging, hoewel projecten als PROTON enige hulp kunnen bieden. Dit door de EU gefinancierde project combineert informatica met sociale wetenschappen en maakt het voor regeringen makkelijker om onderzoek te doen naar de effecten van verschillende beleidsopties met betrekking tot het beperken van online terroristische en criminele activiteiten.

Volgens Bertie Vidgen, onderzoeker aan het Alan Turing Institute aan de University of Oxford, kunnen social mediaplatforms ook nieuwe maatregelen nemen om extremistische content na terreuraanslagen effectiever te verwijderen. Een manier om dit te doen is door haatdetectietools strenger te maken om te voorkomen dat er nog meer soortgelijke content geüpload wordt. Moderators moeten ook sneller kunnen werken, zonder zich zorgen te hoeven maken voor lage werkscores tijdens periodes dat ze een grotere toestromen van haatzaaiende of extremistische content te verwerken krijgen. En door de mogelijkheden voor het delen van video’s en afbeeldingen of het creëren van deelbare contentdatabases te beperken, kunnen social mediareuzen de verspreiding van extremistische propaganda terugdringen en de verwijdering van content die al door andere platforms is gevlagd, automatiseren.

Wat we nodig hebben is wereldwijd gecoördineerd beleid

Terroristen en andere extremisten hebben hun toevlucht gezocht tot het internet en de digitale media om nieuwe leden te werven. Door het verspreiden van haatzaaiende content en aan te zetten tot geweld tegen etnische en religieuze minderheden, maken terreurgroepen als IS, witte racisten en neo-nazi’s de (online) wereld een gevaarlijke plek. Alhoewel techreuzen en overheidsinstanties doen wat ze kunnen om extremistische content te verwijderen, zijn er landen die nog een stapje verder gaan en proberen het sociale onrecht aan te pakken dat tot dit soort extremisme leidt. Helaas is er geen eenvoudige oplossing voor dit probleem, maar een wereldwijd en gecoördineerd beleid van overheden en bedrijven lijkt vooralsnog de meest logische en meest effectieve aanpak.

Gratis e-books voor 13 sectoren.

De wereld verandert in snel tempo en dat heeft grote impact op all sectoren. Daarom hebben we voor maar liefst 13 sectoren een compact e-book ontwikkeld. Daarin vind je de laatste trends op een rij, onderbouwd met interessante statistieken.
Dit blog is geschreven door Richard van Hooijdonk

Dit blog is geschreven door Richard van Hooijdonk

Trendwatcher, futurist en internationaal topspreker Richard Van Hooijdonk neemt je mee naar een inspirerende toekomst die leven, werken en ondernemen drastisch gaat veranderen.

Alle Lezingen