Feminist Generative AI Lab

Het Feminist Genative AI Lab is een gezamenlijk onderzoekslaboratorium gevestigd aan de TU Delft en de Erasmus Universiteit Rotterdam. Het Lab verricht baanbrekend onderzoek op het snijvlak van generatieve AI, design en datafeminisme.

Feminist Generative AI Lab

Het laboratorium erkent de recente ontwikkelingen in generatieve AI-technologie en de wijdverbreide impact ervan en behandelt de ethische uitdagingen en kansen die inherent zijn aan dit transformatieve veld door een theoretisch-feministische lens. Een feministische benadering van technologie gaat verder dan gender. In grote lijnen is het een benadering die streeft naar minder dominante alternatieven, verder denkt dan binaire tegenstellingen en pluralisme en verschil omarmt.

Recente ontwikkelingen op het gebied van generatieve AI-technologie, gekenmerkt door een grotere toegankelijkheid en brede toepasbaarheid in diverse contexten, hebben het potentieel om een ​​revolutie teweeg te brengen in maatschappelijke structuren, beroepen, activiteiten en menselijke interacties. Dit brengt opwindende mogelijkheden met zich mee, naast aanzienlijke ethische problemen. Dergelijke zorgen komen voort uit het gebrek aan diversiteit in gender-, ras- en culturele verhalen tijdens de ontwikkeling en toepassing van AI. Dergelijke tendensen bestendigen en versterken systemische discriminatie en ongelijkheid opzettelijk en onopzettelijk, en geven prioriteit aan winst boven maatschappelijk welzijn, rechtvaardigheid en inclusie. De adoptie van generatieve AI-technologieën op grote schaal kan deze risico’s verspreiden en versterken, waardoor dringend onderzoek nodig is naar de implicaties, valkuilen en mogelijkheden van generatieve AI vanuit ethisch oogpunt.

Ons onderzoekslab past feministische AI-principes toe op het ontwerp, de ontwikkeling en de inzet van generatieve AI-oplossingen om empowerment, inclusie en rechtvaardigheid in verschillende domeinen te ondersteunen. We onderzoeken en behandelen aspecten als intersectionaliteit, hiërarchieën en machtsstructuren binnen generatieve AI door methoden als participatie, pluralisme en belichaming in te zetten. Deze aanpak omvat het onderzoeken van verschillende strategieën om AI, design en datafeminisme te integreren, waarbij gebruik wordt gemaakt van een multidisciplinaire omgeving waarin expertise en methoden uit design, sociale wetenschappen en kunstmatige intelligentie samenkomen. Samen streven we ernaar een pad uit te stippelen naar een meer ethisch, inclusief en sociaal rechtvaardig technologisch landschap.

Methodologie

Het overkoepelende doel van het Feminist Generative AI Lab is om via AI-onderzoek actief bij te dragen aan sociale empowerment, inclusie en gelijkheid. Onderzoekers binnen het lab omarmen feministische AI-principes, epistemologische diversiteit, generatieve AI-technologieën, ontwerpbenaderingen en ethische en verantwoorde AI-frameworks om twee onderling verbonden onderzoeksrichtingen te onderzoeken. Ten eerste willen we de ongelijkheid en machtsonevenwichtigheden die kunnen worden verergerd door generatieve AI-toepassingen kritisch onderzoeken en verminderen. Er wordt bijzondere aandacht besteed aan kwesties die verband houden met algoritmische vooroordelen, representatie en machtsdynamiek in de AI-ontwikkeling die kwetsbare en gemarginaliseerde gemeenschappen treffen. Ten tweede willen we het potentieel onderzoeken van generatieve AI, ontwikkeld door een feministische lens, om bestaande maatschappelijke vooroordelen en machtsonevenwichtigheden tegen te gaan.

Door gebruik te maken van dit unieke perspectief wil het Lab niet alleen bijdragen aan het verminderen van ethische valkuilen op het gebied van AI, maar ook aan het opzetten van generatieve AI-systemen die actief een rechtvaardigere en rechtvaardigere samenleving bevorderen. Via zijn dubbele onderzoeksrichtingen streeft het laboratorium ernaar om baanbrekende transformatieve vooruitgang te boeken op het snijvlak van generatieve AI en sociale rechtvaardigheid.

PhD Positions

PhD Vacancy 1 (TU Delft)

Vacancy holder: Dr. Sara Colombo

Faculty/Department: Industrial Design Engineering – Sustainable Design Engineering

Title: PhD in Co-envisioning Feminist Generative AI Futures

Job description: The TU Delft Faculty of Industrial Design, Department of Sustainable Design Engineering is seeking a highly motivated PhD candidate to do research on co-creating visions for generative AI futures together with vulnerable and marginalized groups, to develop methods that systematically engage them in designing generative AI applications.

The candidate will work in an exciting interdisciplinary environment, collaborating with experts in artificial intelligence, design, and social sciences within the Feminist Generative AI Lab.

Methodologieën en activiteiten

Dit PhD-project maakt gebruik van participatieve ontwerp-, speculatieve ontwerp-, waardegevoelige ontwerp- en ontwerpactivistische methoden om de huidige benaderingen van de ontwikkeling en inzet van generatieve AI uit te dagen, met een focus op het betrekken van gemarginaliseerde en kwetsbare gemeenschappen. Onderzoeksactiviteiten omvatten het analyseren van belanghebbenden en machtsstructuren bij de ontwikkeling en implementatie van GenAI in specifieke contexten, het gezamenlijk bedenken, prototypen en bespreken van de toekomst van GenAI met kwetsbare en gemarginaliseerde groepen die door deze technologie worden getroffen, en het schetsen van richtlijnen voor het creëren van feministische GenAI-oplossingen in deze contexten.

Het onderzoeksdoel is het ontwikkelen en valideren van ontwerpmethoden en -processen om kwetsbare groepen te betrekken bij de ontwikkeling van feministische (bijvoorbeeld eerlijke, inclusieve, diverse) generatieve AI-toekomsten in verschillende contexten.

In lijn met de feministische AI-principes vinden wij het essentieel om de context waarin ongelijkheid is geworteld te begrijpen en erbij betrokken te zijn. Daarom krijgt de promovendus de kans om de context te identificeren die hij of zij in zijn onderzoek wil verkennen, rekening houdend met toegankelijkheid, persoonlijke ervaringen en motivaties.

Qualifications

  • Master’s degree in Design, Human-Computer Interaction, or a related field;
  • Proficiency in qualitative research methods;
  • Excellent communication and collaboration skills;
  • Familiarity with (generative) artificial intelligence and an interest in data feminism or feminist AI principles;
  • Experience with participatory design, speculative design, or design activism is desirable;
  • A commitment to social justice issues;
  • Excellent scientific writing skills are a plus.

PhD Vacancy 2 (TU Delft)

Vacancy holder: Dr. Sara Colombo

Faculty/Department: Industrial Design Engineering – Sustainable Design Engineering

Title: PhD in Detecting and Mitigating Bias in Social Interactions though Generative AI

Job description: The TU Delft Faculty of Industrial Design, Department of Sustainable Design Engineering is seeking a highly motivated PhD candidate to do research on developing and applying generative AI to detect and mitigate bias (e.g. gender and racial bias) in online and offline social interactions.

The candidate will work in an exciting interdisciplinary environment, collaborating with experts in artificial intelligence, design, and social sciences within the Feminist Generative AI Lab.

Methodologies and Activities

The successful candidate will adopt methodologies and tools based on, among others, generative AI models training or customization, participatory design, value-sensitive design, experience design, critical design, and mixed methods. They are expected to engage in the following activities:

  • Co-develop (i.e. design, train) generative AI models that consider various dimensions of diversity and inclusivity, by applying the concept of intersectionality;
  • Co-design (real and/or critical) solutions and artifacts powered by the trained generative AI model to be adopted in online and offline human-human interactions;
  • Develop interfaces that promote awareness and understanding of biases in real-time social interactions;
  • Prototype the designed solutions and deploy them in controlled environments to assess their effectiveness in detecting and addressing biases;
  • Conduct evaluations on the system’s user experience, acceptability, performance, and ability to promote more inclusive and equitable communication.

Qualifications

  • Master’s degree in Design, Human-Computer Interaction, Computer Science, or a related field;
  • A strong background in human-centered design, interaction design, user experience design, human-computer interaction, or related fields;
  • Programming skills (e.g., Python, TensorFlow, PyTorch), experience in training (generative) AI models, or willingness to learn;
  • Strong analytical and problem-solving skills;
  • Strong communication skills and an ability to collaborate across disciplines;
  • Proficiency in human-centered design tools and methodologies;
  • Excellent scientific writing skills are a plus;
  • A commitment to social justice issues.

This PhD position offers a unique opportunity to contribute to cutting-edge research at the intersection of design, feminism, and artificial intelligence, with the potential to shape the future of inclusive and just technological landscapes. We encourage applicants from diverse backgrounds and experiences to apply.

Link naar de IDE pagina:

TU Delft: Werken bij IDE

PhD in Co-envisioning Feminist Generative AI Futures

PhD in Detecting and Mitigating Bias in Social Interactions though Generative AI