Geschreven door Rutger Leistra en Iza Awad
Het lijkt de laatste tijd alsof we als queer personen nergens meer veilig zijn. We zien wereldwijd de haat naar mensen uit de queer gemeenschap toenemen en rechten komen steeds meer onder druk te staan. Het internet was lange tijd een uitlaatklep voor ons: hier kunnen we digitale gemeenschappen oprichten en elkaar zien. Maar die digitale zichtbaarheid lijkt ook steeds meer af te nemen. Hoe zien we dit terug in het politieke en technologische klimaat? We spraken hoogleraar nieuwe media en digitale cultuur Richard Rogers, maker Tessel ten Zweege en performer en ondernemer Maggie Saunders erover.
Queer hunt
Sinds de hernieuwde politieke invloed van de Amerikaanse president Donald Trump en de bredere verrechtsing van de politiek in de Verenigde Staten lijkt het klimaat voor queer personen en andere minderheidsgroepen te verergeren. In de Verenigde Staten worden rechten ter discussie gesteld en zijn er zorgen over mensen die banen of posities verliezen vanwege hun identiteit of uitgesproken standpunten. Deze politieke verschuiving blijft mogelijk niet beperkt tot wetgeving alleen, maar kan ook doorwerken in online ruimtes die worden beheerd door Amerikaanse techbedrijven. Grote platforms opereren binnen dit politieke en culturele krachtenveld en staan onder druk van overheden, adverteerders en publieke opinie. Ook Meta (Amerikaans bedrijf dat onder andere eigenaar is van sites/ apps Facebook, Instagram, WhatsApp en Threads) functioneert binnen die context. Beslissingen over inhoud, veiligheid en zichtbaarheid lijken daarmee niet los te staan van bredere machtsverhoudingen, die zich mogelijk uitstrekken tot ver buiten de Verenigde Staten, waaronder onder meer Nederland.
Enkele maanden geleden was bijvoorbeeld te lezen in Het Parool dat het Instagram-account van de Amsterdamse homodiscotheek en cruiseclub ‘Club Church’ was geblokkeerd. Meta, waar onder meer Instagram en Facebook onder vallen, oordeelde dat het account herhaaldelijk de richtlijnen voor gebruikers en content had overtreden en haalde het daarom permanent offline. Ook haalde het bedrijf het Instagramaccount van ‘Red Light Office Boomsteeg’, een raamexploitant op de Wallen, offline. Veel verontwaardiging volgde en na hulp van onder andere wethouder Alexander Scholtes, zijn de twee accounts weer online gekomen.
Helaas hield het niet op bij het offline gaan van deze twee Instagram accounts en er volgden veel andere accounts die specifieke queer content maken. Naast talloze voorbeelden in het buitenland zijn Nederlandse voorbeelden: the Queer Agenda en ook Striptopia, waarvan oprichtster Meggie Saunders later in dit artikel aan het woord komt. Wat is er zo aanstootgevend aan de content van queer accounts? En is dit nog puur toevallig te noemen of lijkt er sprake van een bepaalde regelgeving vanuit Meta?
Opkomst AI en contentmoderatie vanuit Meta
Volgens dr.Richard Rogers, AI- en onlinebeleidsdeskundige en hoogleraar nieuwe media en digitale cultuur aan de Universiteit van Amsterdam, is de toenemende onzichtbaarheid van queer content op Instagram vooral het gevolg van de automatisering van contentmoderatie. Waar voorheen menselijke moderatoren posts beoordeelden, worden beslissingen nu steeds vaker genomen door AI-systemen. “Alles wat je post op sociale media wordt automatisch gereviewd,” legt hij uit. “Dat gebeurt aan de hand van verschillende metingen, zoals pornografie, geweld of identiteitsgeweld.”
Die metingen leveren een score op tussen nul en één. Zodra een post boven een bepaalde drempel uitkomt, kan deze automatisch worden verwijderd of doorgestuurd voor een handmatige controle. Volgens Richard schuilt het probleem in hoe deze algoritmes zijn opgebouwd. “Ze zijn getraind op bepaalde standaarden, en die zijn vaak heteronormatief en weinig gevoelig voor context.” Daardoor kan queer content sneller als ‘gevoelig’ worden aangemerkt, zelfs wanneer deze niet expliciet of gewelddadig is.
Algoritmes interpreteren woorden als ‘queer’ of ‘gay’ soms onbedoeld als een aanval op een identiteit, omdat deze termen vaak negatief worden gebruikt, terwijl queer personen ze juist zelf gebruiken. Ook associëren algoritmes niet-normatieve lichaams- of genderexpressie sneller met pornografie. Instagram heeft eerder erkend dat er disproportioneel veel queer content is verwijderd en daar excuses voor aangeboden, aldus dr.Richard. Meta geeft echter nauwelijks openheid over de precieze werking van haar moderatie systemen binnen Instagram. Hierdoor weten gebruikers niet waarom hun content wordt geblokkeerd of hoe zij daar effectief bezwaar tegen kunnen maken. “Je kunt zeggen dat de systemen simpelweg nog niet goed genoeg zijn,” zegt dr.Richard, “maar het is ook een kwestie van prioriteit. Inclusieve contentmoderatie krijgt te weinig aandacht.”
De opkomst van AI versterkt dit probleem. Handmatige reviews worden steeds zeldzamer, terwijl ‘jonge’ algoritmes beslissingen nemen die grote gevolgen hebben voor zichtbaarheid, inkomen en gemeenschapsvorming. Volgens dr.Richard is er geen bewijs dat Meta bewust queer stemmen wil onderdrukken, maar dat maakt de uitkomst niet minder problematisch. “Zolang deze systemen bepalen wie zichtbaar is en wie niet, heeft hun onvolmaaktheid een maatschappelijke impact.” Die impact reikt verder dan individuele accounts. Wanneer bepaalde groepen structureel minder zichtbaar zijn, verschuift ook wie kan deelnemen aan het publieke debat. Daarmee raakt contentmoderatie niet alleen aan technologie, maar ook aan de fundamenten van online participatie en democratie, een zorg die ook terugkomt in de ervaringen van Tessel ten Zweege en Maggie Saunders.
Belang en gevaar online zichtbaarheid
Fotograaf: Merlijn Doomernik
Schrijver en feministe Tessel ten Zweege (27), zelf biseksueel, zegt dat het internet voor haar een tweeledige rol heeft: “Doordat ik bepaalde posts over biseksualiteit tegenkwam op Tumblr, Instagram en TikTok, kon ik woorden geven aan gevoelens die ik zelf had. Het algoritme had natuurlijk door dat ik dit interessant vond, want er bleven soortgelijke posts komen. In die zin denk ik dat het internet eerder door had dat ik biseksueel was dan ikzelf.” Tessel vindt het positief dat het internet een ruimte kan bieden voor queers om zichzelf te ontdekken, connectie vinden en te leren over hun seksualiteit en gerelateerde onderwerpen. Het kan identiteit, zichtbaarheid en een woordenschat bieden die misschien voor jouzelf nog ontbreken. Maar met deze zichtbaarheid komt juist ook het gevaar kijken, vindt Tessel: “Grotere zichtbaarheid kan ook weer leiden tot meer haat.”
Tessel noemt shadowbanning (het actief niet pushen van content zonder deze echt te blokkeren) en censuur van queer Instagram-accounts controversieel.: “Ik vind de implicatie dat queer content gelijk politiek en seksueel geladen zou zijn erg problematisch.” Tessel doet zelf al aan zelfcensuur op haar eigen Instagram account waar zij veel werk op post: “Woorden als lesbisch, vulva en kut schrijf ik of anders of gebruik ik helemaal niet. Ik ben me heel erg bewust van het feit dat Meta hier op let en dat ik mijn account riskeer kwijt te raken, als ik die woorden volledig gebruik.” Hiernaast vindt Tessel de censuur gevaarlijk voor de democratie: “Als bepaalde stemmen worden gecensureerd omdat die queer zijn, een andere huidskleur, geloofsovertuiging of lichaamstype hebben, is dit zorgelijk en sluit je een groep mensen uit van de democratie. Zaken als seksualiteit en genderidentiteit gaan opeens uitmaken voor jouw zichtbaarheid op het internet. Je kunt niet participeren in het publieke debat als je wordt geblokkeerd omdat je te veel jezelf bent. Eerst leek het internet zo’n vrije ruimte en los van politiek te staan; hier geloof ik inmiddels niet meer in.”
Gevaar voor fysieke gemeenschappen
Maggie Saunders (32, afkomstig uit North Carolina in de VS) heeft inmiddels zelf ondervonden hoe het is om gecensureerd en geblokkeerd te worden op Instagram. Ze is de oprichter van ‘Striptopia’, een organisatie die evenementen host in Nederlandse clubs waar queer performers strippen op het podium, en deed op 13 november een ontdekking waarvan zij schrok: “We hadden een show in Tilburg met Striptopia en vlak voor het begin kwamen we erachter dat ons account offline was gehaald. Ik was in shock en wist niet wat ik moest doen.” Inmiddels is het account weer online, maar Maggie was naar eigen zeggen emotioneel verdoofd en had het moeilijk met het feit dat zij geen toegang had tot haar account. “Striptopia biedt mensen een safe space. Deze fysieke veiligheid op de avond vertaalt zich naar onze online aanwezigheid: op Instagram kondigen wij onze evenementen aan en onderhouden we het contact met onze gemeenschap.” Het feit dat Maggie online niet zichtbaar was met Striptopia, betekende dat haar opgebouwde gemeenschap deels onzichtbaar werd.
Naast een gemeenschap is Striptopia ook een bedrijf, benadrukt Maggie, en online zichtbaarheid is essentieel om publiek te bereiken en inkomen te genereren. Veel queer ondernemers in de evenementen- en mediawereld zijn sterk afhankelijk van platforms als Instagram voor zichtbaarheid, kansen en groei. Door het wegvallen van die online aanwezigheid kwamen plannen voor uitbreiding, zoals een evenement in Berlijn, abrupt tot stilstand, een ervaring die Maggie omschreef als frustrerend en pijnlijk.
Oplossingen
Zowel Tessel als Maggie voelen de invloed van de regelgeving van Meta en vinden de huidige ontwikkelingen gevaarlijk. Beiden zijn momenteel te vinden op Instagram, maar toch zijn ze aan het nadenken over stappen in de toekomst om hun werk verder te kunnen uitoefenen. Tessel wil graag meer via organisaties buiten haar Instagram werken om alsnog klussen binnen te halen en denkt na over het overstappen op een platform als Bluesky, wat niet onder de macht van een groot techbedrijf staat. Het enige nadeel is dat dit platform nog relatief onbekend is en ze haar following weer opnieuw moet opbouwen.
Beiden stellen dat de queer gemeenschap zich sterk moet blijven maken. Tessel: “We moeten ons ervan bewust zijn dat het internet niet altijd het beste met ons voor heeft en vooral ook fysiek blijven samenkomen. Zet in op gemeenschap op locatie en blijf elkaar opzoeken en supporten.” Maggie: “Laten we als gemeenschap veel ruimte innemen, zowel fysiek als op het internet. Als we onrecht zien of accounts die geband worden, moeten we dit massaal rapporteren en delen. We moeten onze krachten bundelen en een standpunt innemen als community.”
Over de auteur(s)
