De vele risico's die gepaard gaan met de snelle opkomst van AI worden prominenter besproken dan ooit tevoren. Er is een pauze in de ontwikkeling van AI voorgesteld, het risico dat mensen uitsterven door AI en een recent voorbeeld waarbij een AI-simulatie zijn operator zou hebben 'gedood' zijn slechts enkele voorbeelden. In dit panel gaan we dieper in op de risico's die gepaard gaan met de huidige dynamiek waarmee AI-systemen worden ontwikkeld. Wat zijn de blinde vlekken die we mogelijk over het hoofd zien?

Onderzoeker Oumaima Hajri (onderzoeker aan Cambridge University en Hogeschool Rotterdam) zal spreken over hoe koloniale benaderingen zijn verankerd in de digitale technologieën die worden ontwikkeld. Kim van Sparrentak (lid van het Europees Parlement) was een van de schaduwrapporteurs van de AI-wet. Ze zal een aantal van de belangrijkste bepalingen in de huidige versie van die wet belichten en uitleggen hoe we strikte regelgeving nodig hebben, en niet alleen vrijwillige toezeggingen van techbedrijven, om onze waarden bij de inzet van AI te waarborgen. Michele Murgia benadrukt dat het mogelijk is om AI te ontwikkelen met een kritische beoordeling van de waarden die in de technologie besloten liggen. Hij werkt als onderzoeker aan de Erasmus Universiteit aan een tool die AI inzet voor onderwijsdoeleinden. Tot slot zal Ruha Benjamin (Hoogleraar Afro-Amerikaanse studies Princeton University) reflecteren op de bijdragen van het panel en voorstellen doen over hoe we verder kunnen gaan om 'de wereld die we willen te laten groeien' en welke rol AI hierin wel en niet zou moeten spelen.