Terugblik op het ELSA-NN Symposium 2024
door Frank Schröer, UMCG DASH
Het symposium ‘Verantwoorde AI-innovatie doe je samen!’ op 24 oktober in Groningen, georganiseerd door het ELSA AI Lab Noord Nederland, bracht diverse belanghebbenden samen om te discussiëren over verantwoorde ontwikkeling en implementatie van AI in de zorg. Onderzoekers, bedrijven, overheden en burgers wisselden ideeën uit tijdens keynote speeches, ronde tafel-sessies en een informatiemarkt. Een belangrijk thema was inwonersparticipatie bij AI-ontwikkeling, waarbij twee van de acht ronde tafel sessies ingingen op het waarom en hoe hiervan. Deelnemers benadrukten dat inwonersparticipatie essentieel is voor draagvlak en begrip, en
dat het vanaf het begin van het ontwikkelingsproces moet plaatsvinden.
Belangrijke uitkomsten waren dat inwonersparticipatie vanzelfsprekend moet zijn en dat burgers een uniek perspectief bieden dat ontwikkelaars en onderzoekers vaak missen. Het betrekken van inwoners creëert meer draagvlak en begrip. Voor effectieve participatie moeten inwoners vanaf het begin betrokken worden, niet alleen via enquêtes, maar ook door direct contact in gemeenschapscentra. Kwalitatieve methoden en erkenning van de waarde van hun inbreng zijn belangrijk.
Regulatory Sandbox
De rondetafelgesprekken over de Regulatory Sandbox benadrukten de kennisleemte onder belanghebbenden over hun rollen in AI-innovatie. Een regulatory sandbox werd gezien als goede experimentele ruimte om AI veilig en effectief te testen en wettelijke belemmeringen te identificeren. Vanwege de risico's van AI zagen deelnemers de regulator sandbox als een mooie manier om in een gecontroleerde omgeving om deze risico's te nemen, wat uiteindelijk patiënten ten goede zou komen. Voor succes is afstemming van regelgevende kaders, publieke betrokkenheid en politieke en financiële steun noodzakelijk.
Bij de ronde tafel sessies over het thema ‘vertrouwen’ werd ingegaan op verschillende eisen waaraan dient te worden voldaan wil er sprake kunnen zijn van vertrouwen in het gebruik van AI in de zorg. Door de ethici van het ELSA AI lab Noord-Nederland is een model ontwikkeld. Dit model probeert het begrip vertrouwen beter te begrijpen en handvatten te bieden hoe vertrouwen in het gebruik van AI in de zorg ontwikkeld kan worden. De deelnemers vonden het model behulpzaam en samen met de deelnemers is besproken hoe het model verder invulling gegeven kan worden in de praktijk.
Het doel van de ronde tafel sessies over het onderwerp ‘samenwerking’ was, tot slot, om deelnemers, vanuit een bepaalde stakeholder positie, zoals patiënt, arts of AI ontwikkelaar, te laten reflecteren op verschillende scenario’s van AI ontwikkeling. Het doel hierbij was om lange termijn denken te stimuleren. Om dit te faciliteren ware er twee toekomstscenario’s voorbereid en een ‘speelbord’ om vragen rondom waarschijnlijkheid, wenselijkheid en veranderende waarden uit te visualiseren. Doordat deelnemers gevraagd werden zich in te leven in een bepaald perspectief bleef de focus in de discussie op het probleem dat gepresenteerd werd in de scenario’s in plaats van dat ergesproken werd vanuit uit de eigen of huidige kennis en positie. De deelnemers waren dan ook positief over de methode om creatief en collectief denken binnen het onderzoek te brengen.
Keynote sprekers
Om de gesprekken aan de ronde tafels heen waren een aantal keynotes. Julia Hermann trapte af met een keynote over het vormgeven aan verantwoordelijke toekomst door trans disciplinaire benaderingen zoal intelligente ondersteunende technologieën voor ouderenzorg en robotische zorg. Mirjam Plantinga gaf een overzicht over de hoeveelheid werk er door het ELSA-NN was verricht en zij wees op de tweede editie van het ELSA labs magazine met specifieke focus op methodologie, ELSA- aanpak en -methoden (en het belang ervan!), showcase van onderzoeksprojecten van de 6 gefinancierde ELSA-labs en uitdagingen en beste praktijken. Stephanie Klein Nagelvoort, vicevoorzitter UMCG Raad van Bestuur, ging aan de hand van een gesprek met de zaal in op het belang van AI voor de zorg, hoe het UMCG hierop inzet en de uitdagingen die bij verantwoorde AI ontwikkeling en implementatie komen kijken. Het werd afgesloten door een Spoken Word van Hannan van Rooij met een mooi verhaal met daarin:
In een grondslag van: deel je waarden, deel je zorgen Verantwoorde AI van morgen is de toekomst
Die onder onze voeten vormen krijgt
Met sensoren, GPS, generators, vertaalmachines als antidiscriminatiemiddel en door Hoe houden we met alle ruis van innovatie het daadwerkelijke doel nog voor ogen?