Ontwerpers en onderzoekers gaan vaak uit van mannen als ze mensen bedoelen. Dat is voor vrouwen onhandig (te grote telefoons), maar ook schadelijk (auto’s zijn voor hen onveiliger). En dan vergroten slimme algoritmes de ongelijkheid nog uit ook.

De meeste vrouwen kunnen niet autorijden. Geen grap; ze zijn er niet goed toe in staat – fysiek gezien dan. Dat komt doordat hun benen gemiddeld korter zijn dan die van mannen. Daardoor moeten ze dichter bij het stuur zitten om de pedalen te kunnen raken en meer rechtop om over het dashboard te kunnen kijken. Dat is niet alleen onhandig, het is vooral erg gevaarlijk. Door die zithouding lopen vrouwen namelijk meer risico dan mannen op interne bloedingen en beenletsel bij een auto-ongeluk. Ze hebben 47 procent meer kans op zwaar letsel en zelfs 17 procent meer kans op overlijden.

Het probleem is: auto’s zijn ontworpen voor mannen. De meest gebruikte crashtestdummy in de autoindustrie is 1.77 meter lang en weegt 76 kilo. Hij heeft een mannelijke spierverdeling en een mannelijke ruggegraat. Pas in 2011 namen Amerikaanse autofabrikanten een vrouwelijke dummy in gebruik. Hoewel, vrouwelijk? In feite is het een verkleinde versie van de mannelijke testdummy, zonder andere aanpassingen. Bovendien zit ze tijdens de meeste tests op de passagiersstoel.

Dat er decennialang geen gegevens zijn verzameld over de veiligheid van vrouwelijke bestuurders in autotests, is opmerkelijk, maar niet ongewoon. Allerlei alledaagse voorwerpen zijn ontworpen met de man als uitgangspunt, schrijft de Britse journalist en feminist Caroline Criado Perez in Invisible Women – Exposing Data Bias in a World Designed for Men. Van de almaar uitdijende smartphone – te groot voor de gemiddelde vrouwenhand en de gemiddelde vrouwenbroekzak – tot reversmicrofoons – ongeschikt voor sprekers in een jurk – tot de standaardafmeting van een zak cement – goed te tillen voor een gemiddelde man, te zwaar voor een gemiddelde vrouw. Het boek laat zien hoe de man in allerlei domeinen, van de werkplek tot de gezondheidszorg, als de norm geldt. Niet dat er een complot bestaat tegen vrouwen, benadrukt Criado Perez aan de telefoon. ‘Het is een logisch gevolg van een manier van denken. Mannen zijn de standaard, van onze geschiedschrijving tot in films en de politiek. Als we het over mannen hebben, hoeven we dat er niet bij te zeggen. Daardoor zijn we ons er niet van bewust dat als we over mensen praten, we meestal mannen bedoelen.’

De standaardkantoortemperatuur bijvoorbeeld, is gebaseerd op een formule uit 1960 die de stofwisseling van een gemiddelde man in rust als uitgangspunt neemt. Jonge vrouwen die licht kantoorwerk verrichten, verbranden echter veel minder calorieën dan mannen. Voor hen zijn kantoren daardoor gemiddeld maar liefst 5 graden te koud.

Of neem de rij voor het vrouwentoilet. Die wordt veroorzaakt doordat vrouwen gemiddeld 2,3 keer zo lang doen over toiletbezoek als mannen. Ze zijn namelijk vaker ouder en hulpbehoevend, hebben vaker kinderen bij zich en ze moeten vaker tampons of maandverband vervangen. ‘Vrouwenkwalen’ zoals zwangerschap en blaasontsteking zorgen ervoor dat vrouwen in sommige periodes extra vaak moeten plassen. Bovendien kunnen er meer mannen tegelijk van een urinoir gebruikmaken, dan vrouwen van wc-hokjes. Zo bekeken is een fifty-fifty-verdeling van de wc-ruimte helemaal niet zo logisch.

Menstruatiecyclus

Productontwerpers, stadsplanners en beleidsmakers staan er vaak niet bij stil dat ze plannen maken met mannen in gedachten, al dan niet omdat ze zelf in meerderheid man zijn. Volgens Maaike Harbers, lector artificial intelligence & society bij Hogeschool Rotterdam, ligt de oplossing in een sterkere vertegenwoordiging van vrouwen op alle fronten. ‘In de data, bij het testen van een toepassing, in het team dat de toepassing ontwikkelt. Vrouwen zien andere dingen. In 2014 presenteerde Apple bijvoorbeeld de eerste ‘volledige’ gezondheidstracker. De app hield alles bij, van slaappatroon tot hartslag. Er miste alleen een tracker voor de menstruatiecyclus. Er zijn niet veel vrouwen in een team nodig om daaraan te denken.’

Naast meer diversiteit op de werkvloer, zou het ook helpen als vrouwelijke ondernemers meer kansen krijgen. Die lopen nu vaak tegen de norm aan, in dit geval het mannelijke start-up-genie-in-hoodie. Een onderzoek uit 2018 toont aan dat vrouwelijke zelfstandigen gemiddeld minder dan de helft van het niveau van investeringen van mannelijke ondernemers ontvangen, hoewel ze twee keer zo veel opbrengst produceren. ‘Start-ups van vrouwen komen vaak niet eens aan de tafel en als ze wel worden uitgenodigd, krijgen ze heel andere vragen voorgelegd van investeerders’, zegt Valerie Frissen, bijzonder hoogleraar digitale technologie en sociale verandering aan de Universiteit Leiden. ‘Het is een zorgelijk patroon dat zich op alle niveaus herhaalt.’

Gender data gap

De aanname dat mannelijke behoeften universele behoeften zijn, is volgens Criado Perez een direct gevolg van de gender data gap, het gebrek aan goede gegevens over vrouwen. Daarin staat ze niet alleen. Dat er meer en betere data over vrouwen moeten komen, bepleiten onder anderen Melinda Gates en Hillary Clinton al jarenlang. In 2012 werd Data2x opgericht, een door de Verenigde Naties ondersteunde organisatie die de gender data gap moet verkleinen. Data2x initieerde onder meer The Girl Roster, een grootschalig onderzoek onder adolescente meisjes in de armste landen. Juist over deze groep is weinig bekend.

Bill en Melinda Gates schreven vorige maand in een open brief dat ‘seksistische data’ het moeilijker maken om het leven van vrouwen en meisjes in ontwikkelingslanden te verbeteren. Vrouwen worden in deze landen in de eerste plaats gezien als moeders en echtgenoten. Daarom gaan de meeste data over hen over hun vruchtbaarheid, niet over hun inkomsten en bezittingen. Zo kan het gebeuren dat er nauwelijks gegevens bestaan over de hoeveelheid agrarisch werk die wereldwijd door vrouwen wordt gedaan. In enquêtes onder vrouwen in ontwikkelingslanden wordt doorgaans gevraagd of ze betaald werk doen óf huishoudelijk werk. Dan kiezen ze meestal voor het tweede, omdat dat het grootste deel van hun tijd in beslag neemt. Een ander voorbeeld van onbewust seksisme is dat onderzoekers alleen vragen naar de hoeveelheid tijd die het ‘veldwerk’ voor boeren in beslag neemt, terwijl de vrouwen zich vooral bezighouden met agrarische taken buiten het veld, bijvoorbeeld het verwerken van de oogst. Een ogenschijnlijk triviaal verschil, maar het zorgt ervoor dat een heleboel activiteiten van vrouwen in ontwikkelingslanden onder de radar blijven. ‘Je kunt geen zaken verbeteren als je niet weet waar de helft van de bevolking mee bezig is’, schrijft het echtpaar Gates.

Wapens voor vrouwen

Van rugzakken, wapens en gereedschap bestaan inmiddels versies voor vrouwen. Dat betekent niet ‘ook in roze verkrijgbaar’, maar aangepast aan het vrouwelijk lichaam. Docent Bibi Straatman geeft workshops over gender-onderwerpen aan verschillende designopleidingen, waaronder de Hogeschool voor de Kunsten in Utrecht. Ze zegt: ‘Het onderwerp gender wordt nog steeds gedragen door personen die er hun missie van maken, niet door de instituten. Er is wel iets aan het veranderen. De nieuwe generatie staat er erg voor open.’

Voorlopig is er nog een wereld te winnen, bijvoorbeeld als het gaat om uniformen en werkuitrustingen. Britse politieagentes klagen dat hun kogelvrije vest geen ruimte vrijlaat voor hun borsten – met als gevolg dat het vest een deel van de buik onbedekt laat. Het standaard Amerikaanse veiligheidsmasker past niet goed bij vrouwen en bij veel niet-blanke mannen, waardoor zij veel meer giftige stoffen inademen. En vorige week moest de eerste gezamenlijke ruimtewandeling van twee vrouwelijke NASA-astronauten worden afgeblazen, omdat er maar één ruimtepak in maat M beschikbaar was op het ISS-ruimtestation.

In de medische sector groeit het besef dat het levensgevaarlijk is om geen onderscheid te maken tussen ‘mannen’ en ‘mensen’. De ‘Hollywood-hartaanval’ is een typisch mannelijk verschijnsel. Vrouwen krijgen geen acute pijn op de borst, maar kortademigheid, misselijkheid en vermoeidheid. In Nederland zetten cardiologen Angela Maas en Janneke Wittekoek zich al jaren in voor meer kennis van het vrouwenhart. Met succes; zo won Wittekoek de Vrouw in de Media Award 2018 voor haar media-optredens over man-vrouwverschillen bij hart- en vaatziekten. Een deel van het probleem in de medische wereld is dat vrouwen nog steeds worden uitgesloten van klinische onderzoeken naar nieuwe geneesmiddelen. Ze krijgen medicijnen voorgeschreven die niet altijd voor hen werken en die soms zelfs een averechtse uitwerking hebben.

Versterkte voorkeur

Wie denkt dat het een kwestie van tijd is voordat de gender bias, de voorkeur in de data voor mannen, verdwijnt, heeft het mis. Computerwetenschappers voorspellen dat het effect van gender bias onder de invloed van moderne technologie eerder zal toenemen. Dat komt door de manier waarop algoritmes leren. Software voor stemherkenning wordt getraind met behulp van een grote database van stemopnames. Die wordt gedomineerd door mannelijke stemmen. Het gevolg laat zich raden. In 2016 stelde taalonderzoeker Rachael Tatman vast dat Googles stemherkenningssoftware 70 procent beter is het in begrijpen van mannenstemmen dan van vrouwenstemmen. Verstaat uw navigatiesysteem u niet? Probeer het eens met een lagere stem.

Google’s speech recognition has a gender bias https://t.co/TqNFML00sR pic.twitter.com/otrzmxySP9 — Rachael Tatman (@rctatman) 12 juli 2016

‘De ongelijkheid die met name in medische data zit, heeft altijd al desastreus uitgepakt in termen van gender, maar kunstmatige intelligentie versterkt het effect’, zegt hoogleraar Valerie Frissen. ‘Omdat steeds meer met slimme algoritmes wordt gewerkt, is nu het moment om de kwaliteit van de data aanzienlijk te verbeteren. En om ons af te vragen: als we geen goede data hebben, moeten we het dan wel doen?’

Slimme algoritmes maken hun afwegingen op basis van data, maar data reflecteren bestaande ongelijkheid.

Dat leidde er bijvoorbeeld toe dat het algoritme van Amazon alleen nog cv’s van mannen selecteerde voor een baan. Het had zelfstandig geconcludeerd dat topwerknemers mannen zijn. Algoritmes bepalen ook welke vacatures mensen te zien krijgen op LinkedIn. Verrassing: mannen krijgen vaker dan vrouwen goedbetaalde topbanen en banen in de technische sector voorgeschoteld.

Lector Maaike Harbers benadrukt hoe lastig het is om selffulfilling prophecy te voorkomen. ‘Een algoritme voorspelt dat een vrouw bepaald gedrag vertoont. Dat hoeft in beginsel helemaal niet zo te zijn. Maar doordat ze een bepaalde vacature niet te zien krijgt of een bepaald product krijgt aanbevolen, vergroot die voorspelling de kans dat het gebeurt.’

Algoritmes reflecteren niet alleen onze bias, ze versterken die ook. Een analyse van Google Image uit 2017 liet zien dat afbeeldingen van ‘koken’ 33 procent vaker een vrouw dan een man bevatten. Algoritmes die op deze dataset waren getraind, verbonden plaatjes van koken maar liefst 68 procent van de tijd met vrouwen. Hoe groter de originele bias, hoe groter de versterking was. Dat is slecht nieuws voor een wereld met een gender data bias.

‘We stevenen af op een enorme dystopie’, zegt Criado Perez. ‘Wat gebeurt er als machine learning wordt toegepast op onze gebrekkige medische data? Ik ben er absoluut niet zeker van dat degenen die medische algoritmes ontwerpen, rekening houden met data bias.’

Haar boodschap: verzamel gegevens over vrouwen. ‘Als we daar morgen mee beginnen, dan ben ik optimistisch dat we over tien jaar betere datasets zullen kunnen voeren aan de algoritmes. Maar op dit moment zouden we ongelofelijk sceptisch moeten staan tegenover kunstmatige intelligentie. De data zijn niet goed genoeg.’

In mei verschijnt bij uitgeverij Prometheus de Nederlandse vertaling van Invisible women: Onzichtbare vrouwen.

De man op het lijf geschreven Viagra werd in eerste instantie getest als hartmedicijn, maar bleek een aantal onverwachte bij-effecten te hebben. Dat het middel helpt bij erectiestoornissen is welbekend, maar wist u dat het ook tot vier uur verlichting biedt bij heftige menstruatiepijn? De geheel mannelijke beoordelingscommissie besloot geen geld in vervolgonderzoek te stoppen, omdat buikkramp volgens hen geen prioriteit is voor de volksgezondheid. Lekker de pondjes eraf gewerkt op de loopband? Dat kan tegenvallen. De calorieënteller van fitnessapparaten is standaard ingesteld op de gemiddelde man. Vrouwen doen er veel langer over om dezelfde hoeveelheid calorieën te verbranden. Bewegingsapps onderschatten structureel het aantal stappen en calorieën dat wordt verbrand met huishoudelijk werk. Stappenteller Fitbit telde de stappen die gebruikers maken tijdens het duwen van een kinderwagen niet mee. Prachtig, die doorzichtige glazen trap in de Apple Stores. Ideetje van Steve Jobs, door hemzelf tot in detail uitgewerkt. Aan vrouwen in een rok of jurk had hij blijkbaar niet gedacht. Ook beslissingen over belastingen kunnen flinke gevolgen hebben voor ongelijkheid tussen de seksen. Zo vallen tampons in veel landen niet onder het lage btw-tarief, dat is voorbehouden aan essentiële goederen. Bron: Invisible Women: Exposing Data Bias in a World Designed for Men van Caroline Criado Perez.

De vrouwelijke blik valt eindelijk te zien

Een vrouw zit smakkend voor de camera een broodje hamburger te eten. Had ze niet wat leukers kunnen aantrekken? Nee, daar heeft ze schijt aan. Je bekijkt het fragment namelijk vanuit de female gaze. Wat weten we over de vrouwelijke blik? Journalist Merel Bem praat je bij.