AI-onderzoek op het gebied van vrede, justitie en veiligheid aan elk van de drie universiteiten in Zuid-Holland sluit naadloos aan op het AI-onderzoek dat aan de andere twee wordt gedaan. Drie onderzoekers leggen uit.

Bram Klievink werkt als hoogleraar Digitalisering en Publiek Beleid aan Universiteit Leiden op de campus in Den Haag. Zijn collaboratieve werk begon ooit toen hij de handen ineensloot met TU Delft collega Michel van Eeten voor een onderzoeksproject over cybersecurity en governance. Samen met de AIVD deden ze onderzoek naar het identificeren en begrijpen van online bedreigingen. Zo ontwikkelden ze bijvoorbeeld een nieuwe methode om het dreigniveau van kritieke netwerken te meten en aanvalsgedrag te herkennen.

Nu probeert Klievink de Leidse expertise op het gebied van bestuur en beleid, en het Delftse socio-technologische perspectief op cybersecurity te integreren. De universiteiten werken ook samen bij onderzoek naar het gebruik van algoritmes in overheden.

Hij geeft ook het voorbeeld van het ‘LDE-Center for BOLD Cities‘, waarbij de drie universiteiten onderzoeken hoe ‘Big, Open & Linked Data (BOLD)’ gebruikt kunnen worden in, met en voor steden. Klievink: “Het centrum brengt onder andere een sociologisch, planologisch, bestuurskundig, media en technologisch perspectief samen. We hebben zelfs een gezamenlijke multidisciplinaire minor samengesteld, die afgelopen herfst van start is gegaan.

Klievink gelooft dat de samenwerking tussen de drie universiteiten in Zuid-Holland zo goed werkt, omdat er overeenkomsten én verschillen zijn tussen de onderlinge perspectieven en aandachtspunten. “Rotterdam is sterk op het gebied van rechten en het bedrijfsleven. En Delft staat natuurlijk bekend om haar technologische expertise, wat betekent dat men daar onderzoek doet naar AI en de toepassingen ervan. Maar wat weinig mensen weten, is dat er in Delft ook veel kennis is over bestuur en ethiek, iets waarbij doorgaans aan Leiden gedacht wordt. En het tegengestelde is ook waar: naast de expertise in bestuur, beleid, rechten en normatieve aspecten, is er in Leiden ook veel kennis over technologie.” Hij voegt eraan toe dat een algemeen organisatorisch onderscheid geen recht doet aan alle kennis waar specifieke onderzoekers en onderzoeksgroepen aan verschillende universiteiten over beschikken.

Wereldleider

Hoogleraar Cybersecurity aan de TU Delft, Michel van Eeten, legt uit dat onderzoekers aan verschillende universiteiten elkaar ook buiten hun campus tegenkomen. “Ik zit bijvoorbeeld in het Cybersecurity Bestuur met Bibi van den Berg, die Hoogleraar Cybersecurity en Governance is in Leiden.”

De Rotterdamse hoogleraar Recht en Economie Klaus Heine ziet zijn fundamentele onderzoek, waarbij hij data vergelijkt met nucleaire energie, als het complement van andere universiteiten. “Dat is ontzettend waardevol. Natuurlijk wisselen we technieken uit met de TU Delft. Daar zou het bestuur alleen maar meer van moeten willen. Dan zouden we wereldleiders kunnen worden.”

Zo overtuigen we bedrijven om het internet veiliger te maken

TU Delft – Michel van Eeten

Bedrijven krijgen af en toe de rillingen van het werk van Michel van Eeten, hoogleraar Cybersecurtiy. “Als je bijvoorbeeld naar hosting bedrijven kijkt, dan zijn zij vaak redelijk positief over hun eigen netwerkbeveiliging, terwijl er best wat gaten in blijken te zitten. Voor het Ministerie van Justitie en Veiligheid hebben we ooit onderzoek gedaan naar afbeeldingen van seksueel misbruik van kinderen. Onze hoofdvraag: hoe goed kunnen hosting bedrijven monitoren of hun gebruikers dat soort beelden plaatsen, en wat doen ze als ze dat wel doen?”

‘Naming en shaming’ is niet altijd nodig

Een van de onderzochte bedrijven bleek 90% van de beelden te hosten, en onder politieke druk werd diens naam bekend gemaakt. Dat soort ‘naming and shaming’ is onnodig, vindt Michel van Eeten, hoogleraar Cybersecurity. Volgens hem zijn er namelijk veel effectievere oplossingen.

Het terugkerende thema in het werk van Van Eeten is de relatie tussen technologie en gedrag in het licht van cyberrisico. “We gaan op zoek naar de zwakke plekken in systemen die op het internet zijn aangesloten. Dan contacteren we de eigenaren van die systemen en onderzoeken we wanneer zij of de internetaanbieder deze problemen zullen oplossen.” Van Eeten en zijn team ontwikkelen methodes om te meten of het veilig is om apparaten te gebruiken die op het internet zijn aangesloten en ze bekijken of de data zich veilig over de ‘digitale snelweg’ kan bewegen.

Twee bedrijven verantwoordelijk voor hacks

Het team van Van Eeten heeft een grootschalig onderzoek naar camera’s, digitaal opnameapparatuur, thermostaten en andere verbonden apparaten uitgevoerd. “Het ‘Internet of Things’ is soms erg onzeker en is dus gevoelig voor hackers en malware.” Toen deed hij een belangrijke ontdekking. “Hoewel er tienduizenden fabrikanten zijn, waren er slechts twee verantwoordelijk voor de helft van álle gehackte apparaten.”

Na zo’n ontdekking is de eerste stap voor het Ministerie van Economische Zaken en Klimaat om een brief te schrijven aan deze bedrijven. Een gesprek met de fabrikanten lost al heel wat op, zegt Van Eeten. “Dreigen met een toetredingsverbod tot de Europese markt, waardoor ze een van hun grootste markten zouden verliezen, zou pas veel later moeten komen.”

Wat Big Data en nucleaire kracht met elkaar gemeen hebben

Erasmus Universiteit Rotterdam – Klaus Heine

De reden dat Europa achterloopt op de VS en China op het gebied van technologie, is omdat we privacy belangrijk vinden. Klaus Heine, hoogleraar Recht en Economie, probeert dit op een creatieve manier te verwerken tot een ‘unique selling point’. “De EU kan juist de veiligste en meest aantrekkelijke plek zijn voor het ontwikkelen van AI waarbij de mens centraal staat.”

Toen Facebook Whatsapp overnam, was dat volgens het concurrentierecht geen probleem; Whatsapp was immers maar een klein bedrijf. Maar al die data… Daar keek het concurrentierecht helemaal niet naar. Heine, die onderzoek doet naar big data en privacy, vindt dat men in deze casus naar het eigendomsrecht had moeten kijken. “Het ging hier aan de ene kant over een technologische ontwikkeling, en aan de andere kant over data. Dat laatste kan je best als een soort brandstof zien.”

Bijzondere vergelijkingen

En dat is Heines ’trademark’: het maken van bijzondere vergelijkingen, zoals bijvoorbeeld met het verleden. “In de jaren ’50 waren onze uitdagingen op het gebied van nucleaire energie vergelijkbaar met die van vandaag op het gebied van Big Data. Aan de ene kant was er de technologische ontwikkeling op het gebied van nucleaire natuurkunde, en aan de andere kant was er radioactief materiaal, nucleaire brandstof. De grote vraag was destijds hoe we deze uitvinding veilig konden gebruiken en nuttig konden inzetten voor de maatschappij. De oplossing die tot op heden werkt, is dat kerncentrales geprivatiseerd zijn, maar nucleaire energie het eigendom van de overheid is.”

De ‘European Atomic Energy Community’ (Euratom) probeert onderzoek van de lidstaten naar de ontwikkeling en veilige toepassing van nucleaire energie te coördineren en op een lijn te krijgen. Dat is een inspiratiebron voor Heine. “We zouden een soort Euratom voor data moeten hebben, waardoor Facebook, Amazon en Google hun datatechnologie alleen mogen gebruiken als die commissie heeft bepaald dat de toepassing de maatschappij ten goede komt. Dan zou Europa dé plek voor veilige nieuwe technologie kunnen zijn.”

Heine: “Met cybersecurityproblemen probeer ik altijd op zoek te gaan naar een vergelijkbare situatie die elders in de samenleving plaatsvindt. Toen de Universiteit van Maastricht gegijzeld werd met gijzelsoftware, zag ik een analogie met een overstroming als de dijken breken. Dan roepen we het leger erbij. In zo’n scenario zie ik vrijwilligers en kommandanten bij elkaar komen om de infrastructuur te repareren. Het framework voor een soort cyberleger is al eens eerder besproken, bijvoorbeeld door het Ministerie van Defentie in de VS.”

De grootste AI-uitdaging van de overheid is dat geen enkel systeem neutraal is

Universiteit Leiden – Bram Klievink

De inzet van AI is voor overheden nog moeilijker dan voor bedrijven. Hoogleraar Bram Klievink en zijn collega proberen problemen te identificeren en oplossingen te vinden voor digitalisering in publiek beleid.

“Als de helft van de boeken die Amazon je aanraadt helemaal niet interessant zijn, is dat niet zo erg. Maar als de overheid slechts in tien procent van de gevallen fouten maakt, kan dat een heel groot probleem worden. Kijk bijvoorbeeld naar de ‘System Risk Indicator’ (SyRI), die de Nederlandse overheid gebruikt om fraude op te sporen”, legt Klievink uit. Het systeem, dat sinds 2014 wordt gebruikt om fraude met uitkeringen te voorkomen, ontwikkelde risicoprofielen op basis van o.a. boetes, compliance en opleidingsniveau. “Hoewel de data versleuteld en geanonimiseerd werd, totdat je als fraudeur werd aangemerkt, oordeelde de rechtbank dat het recht op een privéleven hier werd geschonden. Het laat zien dat, hoewel de overheid een enorm bereik heeft, ze meer met meer restricties te maken krijgt dan, laten we zeggen, Facebook.”

Beleidsanalyse met sociale mediadata

Klievink en zijn team onderzoeken ook of sociale media ingezet kunnen worden om de effecten van beleid in kaart te brengen. Er is een aantal technische mogelijkheden: “Je kan bijvoorbeeld kijken naar sentimenten, om in kaart te brengen hoeveel draagvlak er is voor bepaald beleid. Maar met dit soort technieken moet je wel keuzes maken”, legt Klievink uit. “En zelfs kleine beslissingen en overwegingen kunnen onverwachte en ongewenste gevolgen hebben in de uitvoering van beleid. Als je bijvoorbeeld gebruikmaakt van Twitterdata, moet je zelf instellen wanneer je systeem een Twitteraccount ziet als een mens of als een bot. Maar hoe doe je dat? Geldt dat bij tien Tweets per dag of honderd? En tussen hoeveel gespreksonderwerpen maakt je topic model een onderscheid? Zijn het vijf algemene onderwerpen, of gebruik je een meer verfijnd model met twintig specifieke onderwerpen? Deze keuzes zijn nooit neutraal, maar toch is het maken van die keuzes onvermijdelijk.”

Beleidsmakers en techneuten

Dit soort keuzedilemma’s blijft vaak verborgen, omdat beleidsmakers en technici elkaars taal niet spreken. “De AI-specialist heeft vaak de methoden en technieken tot diens beschikking, maar heeft minder inhoudelijke kennis over consequenties van de keuzes die gemaakt worden. Tegelijkertijd weten beleidsmakers vaak niet aan welke knoppen technici wel of niet kunnen draaien, wat de instellingen zijn en wat dit betekent voor de uitkomsten.” Klievink concludeert dus dat de samenwerking tussen mensen uit verschillende disciplines bij openbare AI-projecten niet nauw genoeg kan zijn.

Vijf thema’s boordevol AI-onderzoek in Zuid-Holland 

• AI voor Vrede, Justitie en Veiligheid 
• AI voor de Haven en Zeevaart
• AI voor Energie en Duurzaamheid
• AI voor Levenswetenschappen en Gezondheid
• AI voor de Slimme Industrie