Feministische AI: sociaal belang boven winstcijfers
Hoe voorkom je ongelijkheid binnen en door AI
Feministische AI is niet zomaar een trend; het is een fundamentele verschuiving in ons denken over technologie. Waar utopische opvattingen over AI ervan uitgaan dat technologie neutrale oplossingen kan bieden voor complexe sociale problemen, onderkent feministische AI dat aan alle AI-systemen menselijke keuzes ten grondslag liggen, die mogelijk gebaseerd zijn op vooroordelen en bestaande machtsverhoudingen in de samenleving. Feministische AI streeft dan ook niet naar een illusoire objectiviteit van data, maar beschouwt subjectiviteit en contextuele kennis als een pré.
De gedachte is vaak dat feministische AI alleen over vrouwen gaat. Hoewel vrouwen historisch gezien een gemarginaliseerde groep vormen, draait het binnen deze benadering van AI niet alleen om gender. Ook andere vormen van achterstelling worden door middel van onderzoek naar en inzet van AI bestreden, voor meer sociale kansen, inclusie en gelijkheid.
In dit interview vertellen Sara Colombo en Geert-Jan Houben wat feministische AI inhoudt en wat deze benadering kan betekenen voor mensen en de maatschappij.
Wie heeft er baat bij feministische AI?
“Feministische AI is een interdisciplinaire benadering van het ontwerpen en ontwikkelen van AI, gebaseerd op feministische principes en theorieën. Hiermee komen verschillende vormen van marginalisatie aan de orde: achterstelling op basis van gender, huidskleur, lichamelijke beperking en andere systemische ongelijkheden die verschillende sociale groepen treffen. Feministische theorieën bieden een kader voor een meer reflectieve, kritische en inclusieve ontwikkeling van AI,” legt Sara Colombo uit. Zij is universitair docent aan de faculteit Industrieel Ontwerpen en mededirecteur van het Convergence Feminist Generative AI Lab.
“Mensen zijn vaak geïnteresseerd in en nieuwsgierig naar feministische AI, omdat het verband tussen feminisme en AI niet direct duidelijk is. Ik vind het heel belangrijk duidelijk te maken dat feministische AI niet alleen gaat over vrouwen- en genderkwesties, maar ook over thema’s als huidskleur, handicap, leeftijd, kolonialisme en meer in het algemeen over de verdeling van macht binnen de samenleving. Wij onderzoeken de manier waarop AI dergelijke structuren kan versterken of juist kan bevragen.”
Is AI objectief?
“Als datamodelleur zie ik AI als een artefact dat uitgaat van een bepaald wereldbeeld. Dat beeld wordt gevormd door gegevens en is daarom per definitie incompleet en gevoelig voor allerlei effecten. Het is dus niet de AI zelf die tekortschiet, maar de op basis van gegevens gevormde weergave van de echte wereld. Daarom is het interessant om te kijken naar theorieën waarmee we deze tekortkomingen kunnen verkennen en proberen op te lossen,” aldus Geert-Jan Houben, Pro Vice Rector Magnificus AI, Data en Digitalisering.
“Een gangbare misvatting is dat werken met data betekent dat je werkt met een objectieve entiteit. Dat is een zeer riskante veronderstelling omdat data nooit echt neutraal zijn. Als we data en AI als objectief beschouwen, zien we over het hoofd hoe onze eigen standpunten, achtergronden en vooroordelen de keuzes bepalen die we maken bij het verzamelen, selecteren en gebruiken van data. Dan houd je geen rekening met je eigen sociale en politieke positie, met systemische ongelijkheid, of de gevolgen daarvan voor de datasets die je ontwerpt en bouwt,” stelt Sara. “Dit speelt met name een rol bij AI. Modellen die zijn gebaseerd op vooroordelen of niet-representatieve gegevens kunnen bestaande vormen van discriminatie bestendigen en zelfs versterken.”
Aannames en abstracties spelen altijd een rol omdat je nooit de complete werkelijkheid kunt weergeven. Bij het ontwerpen van een product moeten we op de een of andere manier de balans zien te houden tussen de nauwkeurigheid van de representaties binnen het product en de beoogde toepassing ervan.
Hoe kunnen we eerlijkheid in AI verbeteren?
“Bias in trainingsgegevens vormt een grote uitdaging voor de ontwikkeling van eerlijke en rechtvaardige AI-systemen,” stelt Sara. “En ook het ontbreken van diverse perspectieven bij het ontwerp, de ontwikkeling en toepassing van AI vormt een grote uitdaging.”
Ze vervolgt: “Het is van groot belang dat bij de ontwikkeling van AI-oplossingen de diverse groepen betrokken en vertegenwoordigd zijn die erdoor beïnvloed worden. Toch zie ik dat in de gezondheidszorg teams van ontwikkelaars aan AI-gestuurde oplossingen werken en cruciale beslissingen nemen zonder echt inzicht te hebben in de diversiteit binnen groepen patiënten – in hun behoeften, waarden en ervaringen. Helaas worden AI-ontwikkelaars binnen de bestaande ontwikkelingsprocessen nauwelijks uitgedaagd om na te denken over de relevantie of noodzaak van dergelijke kennis. Feministische AI streeft ernaar dit soort problemen te ondervangen via participatief ontwerp, transparantere algoritmes en het uitvoeren van inclusievere ethische audits. Gezamenlijk dragen deze factoren bij aan de ontwikkeling van eerlijkere en rechtvaardigere AI-systemen.”
We moeten de kloof verkleinen tussen AI-ontwikkelaars en de diverse groepen mensen die beïnvloed worden door AI-systemen.
Wat kan feministische AI opleveren?
“Als ontwerpers en ingenieurs moeten we oog hebben voor het feit dat we de systemen die we creëren, baseren op onze kijk op de wereld. We moeten ons ook bewust zijn van de machtsstructuren en systemische ongelijkheden in onze samenleving. Het is van groot belang deze te onderkennen, bespreekbaar te maken en te snappen wat de invloed ervan is op de ontwikkeling van AI. Feministische AI wil daaraan bijdragen,” aldus Sara. “Bovendien wordt feministische AI ontwikkeld aan de hand van participatieve en inclusieve methoden, zodat in elke fase een diverse vertegenwoordiging is gewaarborgd. Door een feministische lens te hanteren kunnen AI-systemen gelijkwaardiger, rechtvaardiger en zorgvuldiger worden, en wordt recht gedaan aan ethische principes waarin het welzijn van mensen en de samenleving voorrang krijgt boven winstgedreven automatisering.”
Sara geeft een paar veelbelovende voorbeelden van feministische AI in de praktijk: “Een voorbeeld is de High-risk EU AI Act Toolkit (HEAT) waarin feministische principes als leidraad dienen voor ontwikkelaars van AI-systemen met een hoog risico, zodat deze voldoen aan de Europese AI-wet. Een ander voorbeeld is de door Joy Buolamwini opgerichte Algorithmic Justice League, die zich inzet voor eerlijker AI-beleid. Ook SOF+IA is een voorbeeld. Deze chatbot werkt op basis van generatieve AI en is ontwikkeld vanuit een feministische perspecief, gericht op het aangaan van gesprekken en het tegengaan van geweld en digitale intimidatie die vrouwen vaak tegenkomen op sociale mediaplatforms.
We moeten AI dekoloniseren door na te denken over Westerse aannames bij de ontwikkeling van algoritmen.
Wat is het voordeel van onderzoek naar feministische AI in een Convergence-lab?
“Als multidisciplinair lab leren we voortdurend van elkaar en zorgen we voor kruisbestuiving binnen ons onderzoek. Bovendien kunnen we zo onze impact vergroten door een divers publiek te bereiken, meer bewustzijn over dit onderwerp te creëren en meer mensen bij dit onderwerp te betrekken. Bijvoorbeeld maatschappelijke belanghebbenden en het grote publiek,” legt Sara uit. “Het Feminist Generative AI Lab bevordert interdisciplinaire samenwerking tussen AI-onderzoekers, ontwikkelaars, sociale wetenschappers en ethici op het gebied van de maatschappelijke gevolgen van AI. Binnen een Convergence Lab kunnen we samenwerken aan gezamenlijke uitdagingen, zoals de noodzakelijke herverdeling van de macht bij het ontwikkelen en toepassen van AI, en ieder onze eigen expertise en perspectieven inbrengen.”
Geert-Jan valt haar bij: “Dit is een heel mooi voorbeeld van de voordelen Convergence, met name van Convergence op het gebied van AI, Data en Digitalisering waarbij we onderzoekers uit verschillende disciplines samenbrengen, zodat de maatschappij hier optimaal van kan profiteren.”