Transparante AI in de zorg: meer dan een technische privacyvraag
AI kan zorgprofessionals helpen om signalen eerder te herkennen, risico’s beter in te schatten en ondersteuning gerichter in te zetten. Tegelijkertijd roept het gebruik van AI in de zorg belangrijke ethische vragen op. Eén daarvan is de spanning tussen transparantie en privacy.
Vaak wordt bij privacy meteen gedacht aan de technische inrichting van een systeem. Worden gegevens lokaal opgeslagen? Wordt er gewerkt met federated learning? Worden data gepseudonimiseerd? Dat zijn belangrijke vragen. Zulke technieken kunnen privacyrisico’s verminderen, vooral wanneer ze voorkomen dat ruwe cliëntgegevens centraal worden opgeslagen of breed worden gedeeld.
Maar daarmee is het dilemma niet volledig opgelost. De kernvraag is breder: hoe zorgen we ervoor dat een AI-tool controleerbaar, uitlegbaar en verantwoord inzetbaar is, zonder dat gevoelige cliëntinformatie onnodig zichtbaar wordt?
Transparantie in onderzoek
Voor Carmenda betekent transparantie niet alleen dat duidelijk is waar data worden opgeslagen of hoe een algoritme technisch is gebouwd. Transparantie gaat vooral over de mogelijkheid om te begrijpen, controleren en verantwoorden hoe een AI-tool tot een uitkomst of advies komt.
Dat speelt op meerdere niveaus.
Allereerst is er wetenschappelijke en methodologische transparantie. Om te kunnen beoordelen of een AI-model betrouwbaar is, moeten onderzoekers vragen kunnen beantwoorden als: op basis van welke data is het model ontwikkeld? Welke variabelen wegen mee? Hoe goed werkt het model voor verschillende groepen cliënten? Waar maakt het model fouten? En welke vormen van bias of uitsluiting kunnen ontstaan?
Voor dat soort onderzoek zijn vaak gedetailleerde gegevens nodig. Niet alleen algemene of geaggregeerde cijfers, maar ook informatie op casusniveau, uitkomsten over tijd, foutanalyses en inzichten in subgroepen. Juist daar ontstaat spanning met privacy. Ook gepseudonimiseerde gegevens kunnen gevoelig blijven, zeker wanneer het gaat om kleine aantallen cliënten of specifieke cliëntprofielen.
Transparantie op de werkvloer
Daarnaast is er transparantie in de praktijk. Wanneer een AI-tool eenmaal wordt gebruikt, moeten zorgprofessionals kunnen begrijpen wat een signaal of advies betekent. Waarom geeft de tool dit signaal? Welke factoren hebben daaraan bijgedragen? Hoe zeker of onzeker is de voorspelling? En wat mag je wel of juist niet met de uitkomst doen?
Ook cliënten, wettelijk vertegenwoordigers, voogden of familieleden kunnen behoefte hebben aan uitleg. Zij moeten kunnen begrijpen welke gegevens worden gebruikt, met welk doel, en hoe een uitkomst invloed kan hebben op de ondersteuning die iemand krijgt.
Maar ook hier kan privacy gaan knellen. Een uitleg kan bijvoorbeeld zichtbaar maken dat bepaalde gevoelige kenmerken, combinaties van kenmerken of informatie over derden hebben meegewogen. Dat kan nodig zijn voor verantwoording, maar tegelijkertijd meer blootleggen dan wenselijk is.
Samen leren zonder data centraal te verzamelen
Federated analysis en federated learning bieden veelbelovende mogelijkheden om als zorgorganisaties samen kennis te ontwikkelen, zonder dat ruwe cliëntgegevens centraal hoeven te worden verzameld. Data blijven zoveel mogelijk binnen de eigen organisatie, terwijl er toch gezamenlijk kan worden geleerd van patronen, uitkomsten en ervaringen uit de praktijk. Juist voor de zorg aan mensen met een verstandelijke beperking is dat waardevol: de doelgroep is divers, gegevens zijn gevoelig en aantallen per organisatie kunnen relatief klein zijn. Voor Carmenda zijn deze technieken daarom een belangrijke stap richting privacyvriendelijke en verantwoorde AI. Zorgorganisaties kunnen zo bijdragen aan betere inzichten en betere ondersteuning, zonder dat daarvoor alle data op één plek hoeven te worden samengebracht.
Tegelijkertijd vraagt ook deze manier van werken om zorgvuldige afspraken. De vraag is niet alleen waar data staan, maar ook wie welke informatie mag zien, hoe uitkomsten worden gecontroleerd, welke logging nodig is en hoeveel inzicht onderzoekers, professionals, toezichthouders en cliënten moeten krijgen om een AI-tool verantwoord te kunnen gebruiken.
Want hoe meer transparantie we willen over de werking, fouten, bias en individuele verklaringen van een AI-tool, hoe groter de behoefte aan gedetailleerde informatie. Tegelijkertijd willen we juist bij kwetsbare doelgroepen voorkomen dat gevoelige cliëntinformatie breder beschikbaar wordt dan noodzakelijk.
Het gaat dus niet om “privacy risico’s inboeten” als doel op zich. Het gaat om de vraag hoeveel toegang tot gegevens nodig is om een systeem controleerbaar en verantwoord te maken.
Toewerken naar gelaagde transparantie
De oplossing ligt daarom niet in een keuze tussen maximale transparantie of maximale afscherming. Verantwoorde AI vraagt om een gelaagde vorm van transparantie.
Niet iedere betrokkene hoeft dezelfde informatie te zien. Onderzoekers hebben onder strikte voorwaarden voldoende detail nodig om validiteit, bias en fouten te beoordelen. Zorgprofessionals hebben vooral begrijpelijke informatie nodig over de reden van een advies, de onzekerheid van een voorspelling en de beperkingen van de tool. Cliënten en hun vertegenwoordigers moeten kunnen weten welke gegevens worden gebruikt, waarom dat gebeurt en hoe de uitkomsten hun ondersteuning kunnen beïnvloeden.
Voor elke groep betekent transparantie dus iets anders.
Verantwoorde AI vraagt om zorgvuldige keuzes
De inzet van AI in de zorg vraagt om meer dan een goede technische oplossing. Het vraagt om heldere afspraken over toegang tot informatie, dataminimalisatie, uitlegbaarheid, logging, toezicht en verantwoordelijkheid.
Transparantie en privacy hoeven elkaar niet uit te sluiten, maar ze staan wel voortdurend in relatie tot elkaar. Juist daarom is het belangrijk om deze spanning expliciet te bespreken. Alleen dan kunnen AI-tools worden ontwikkeld en gebruikt op een manier die wetenschappelijk betrouwbaar, praktisch bruikbaar én ethisch verantwoord is.
Bij Carmenda zien we dit als een essentieel onderdeel van de ontwikkeling van medisch-generalistische zorg van de toekomst: technologie inzetten waar die waarde toevoegt, met oog voor de mensen over wie de gegevens gaan.
Heb je vragen of wil je meer weten ove transparantie, privacy en AI in de zorg? Neem dan contact met ons op, we gaan graag met je in gesprek.
