Hoe houd je als bestuurder in de zorg grip op de inzet van AI? 

Als bestuurder in de zorg sta je voor de uitdaging om de voordelen van kunstmatige intelligentie (AI) te benutten, terwijl je tegelijkertijd te maken hebt met waarschuwingen van je team over de risico’s op het gebied van privacy, ethiek en beveiliging. De vraag is dan ook hoe je verantwoord kunt starten met AI zonder te verzanden in deze risico’s. Dit artikel biedt een concrete aanpak om als bestuurder grip te houden op de inzet van AI. 

Je startpunt is een businesscase voor de kosten en baten

De eerste stap is het vaststellen van een concreet doel voor de inzet van AI. Dit helpt om het project af te bakenen en gefocust te blijven. Je kunt dit doen door het proces te identificeren waarin je AI wilt gebruiken. Bepaal wat de huidige situatie is, welke voordelen de inzet kan bieden, en wat dit mogelijk kost, zowel op de korte als lange termijn. De lange termijn is belangrijker dan de korte termijn als het gaat om financiën. 

Datakwaliteit bepaalt de kwaliteit, begin daarmee. 

Datakwaliteit is cruciaal. Zonder kwalitatieve data zal AI geen waardevolle resultaten leveren. Zorg dat de datakwaliteit op orde is voordat je AI-systemen traint en inzet. Daarnaast moet je IT-infrastructuur voldoende capaciteit en beveiliging bieden om het AI-systeem te ondersteunen. Ga nu al aan de slag met je data op basis van normen die er bestaan. Betrek waar mogelijk je leverancier die loopt vaak voor op zaken. 

Tip: Betrek de gebruiker bij het verbeteren van je data. Die weet al uit ervaring wat er mis gaat en waar de beste kansen zijn tot verbetering. 

Transparantie is verplicht, maar ook nodig voor betrokkenheid

Documenteer zorgvuldig hoe het AI-systeem beslissingen neemt en zorg dat gebruikers weten wanneer ze met AI te maken hebben. Overweeg ook de Centrale Cliëntenraad (CCR) en Ondernemingsraad (OR) te betrekken bij AI-projecten. Er zijn zorgorganisaties die hiermee terughoudend zijn. In geval van AI is dat niet handig. De impact kan te groot zijn en dan heb je hen nodig. 

Samenwerking en contracten laat je beoordelen

Sluit duidelijke samenwerkings- en verwerkersovereenkomsten af met alle betrokken partijen. Laat een jurist of privacy officer deze documenten toetsen om te waarborgen dat ze voldoen aan wet- en regelgeving. Controleer altijd ook je de aannemer van je aannemer. De meeste leveranciers laten het ‘echte werk’ door partijen doen waar lastig grip op te krijgen is. 

Gegevensbescherming en veiligheid zijn randvoorwaarden

Waarborg dat gegevens die door AI worden verwerkt, gepseudonimiseerd of geanonimiseerd zijn, en verwijder data zodra deze niet meer nodig zijn. Zorg daarnaast voor controlemechanismen en beveiligingsmaatregelen om naleving van de regelgeving te waarborgen. Vergeet niet de AI-verwerkingen op te nemen in het verwerkingsregister, voor zover er persoonsgegevens bij betrokken zijn. Ik hoef aan uw CISO niet uit te leggen dat leveranciersmanagement hier een cruciale rol speelt. Welke eisen stel je aan je leveranciers in je aanbestedingstraject? 

Ethische overwegingen en toezicht zijn noodzakelijk in de zorg

Voer een ethische beoordeling uit om ervoor te zorgen dat het AI-systeem geen discriminerende of onrechtvaardige resultaten oplevert. Daarnaast is menselijk toezicht essentieel om de AI-output te controleren en risico’s tijdig te signaleren. Soms is een ethische beoordeling verplicht in wet. 

Operationele voorbereidingen moet je niet onderschatten

Train je personeel in het gebruik van AI en stel een verantwoordelijke aan voor het toezicht op ethiek, regelgeving en uitvoering. Dit zorgt voor naleving binnen de organisatie. Het is dus niet iets eenmaligs. Juist niet! Het is een proces . 

Tip: Besteed je alles uit? Dan moet je rekening houden met dat je grofweg een derde van de investering intern moet doen. Doe je dit niet, dan kost het meer geld. Denk hierbij aan opleidingen, meer salaris, verslaglegging en audits om stevig toezicht uit te kunnen oefenen. 

Evaluatie en verbetering

Monitor regelmatig de prestaties van het AI-systeem en voer noodzakelijke verbeteringen door. Rapporteer de inzet van AI-systemen indien vereist aan je Raad van Toezicht, nationale toezichthouders of waar verplicht de Europese Commissie.

Tip: Voor een bestuurder moet evaluatie elke keer ook de vraag beantwoorden of de investering lonend is. Ben je bestuurder? Vraag daar ook om. Elke keer weer. 

Conclusie

Met deze stappen kun je als bestuurder AI op een verantwoorde en gestructureerde manier inzetten binnen je zorgorganisatie, waarbij je zowel de voordelen als de risico’s scherp in de gaten houdt. 

Bij Privacy United ondersteunen we bestuurders op diverse manieren bij het sturen van de inzet van AI. We bieden strategische, tactische en organisatorische begeleiding om AI op een beheersbare manier in te zetten. Dit doen we door het verstrekken van informatie, het onderhandelen met leveranciers, het verzorgen van opleidingen en het inzichtelijk maken van zowel risico’s als voordelen.

Publicatiedatum: 23 oktober 2024

Auteur: Mohammad Mousavi, Functionaris Gegevensbescherming bij Privacy United