AI kan fouten maken
Module 2 van 5
Leer waar de grenzen liggen. Privacy, verantwoordelijkheid en wanneer je AI beter niet kunt gebruiken.
AI kan fouten maken
AI klinkt vaak overtuigend, maar dat betekent niet dat het klopt. In deze module leer je wat "hallucinaties" zijn, waarom AI informatie verzint, en hoe je fouten herkent. Zeker als het over zorg gaat.
10 minutenHallucinaties, AI verzint dingen
AI kan "hallucineren." Dat klinkt raar, maar het betekent iets heel concreets: AI genereert soms informatie die niet klopt of simpelweg niet bestaat. Het verzint bronnen, cijfers of feiten ; en presenteert die met evenveel overtuiging als correcte informatie.
Hoe kan dat? AI voorspelt woord voor woord wat waarschijnlijk klinkt. Het zoekt niet iets op in een database en geeft je het juiste antwoord. Het bouwt zinnen op basis van patronen. En soms leidt dat tot zinnen die heel overtuigend klinken, maar nergens op gebaseerd zijn.
AI verwijst naar een wetenschappelijk artikel dat niet bestaat, inclusief auteursnaam en jaartal.
AI noemt een medicijn-interactie met een specifiek percentage dat nergens te vinden is.
AI geeft een protocol weer dat lijkt te kloppen, maar stappen overslaat of verkeerd beschrijft.
Het grote risico van hallucinaties is dat ze er precies hetzelfde uitzien als correcte informatie. Je kunt het verschil niet zien aan de toon of de formulering. Alleen door te controleren.
Waarom is dit gevaarlijk in de zorg?
In veel situaties is een foutje van AI niet zo erg. Maar in de zorg kunnen fouten grote gevolgen hebben. Denk aan verkeerde medicatie-informatie, onjuiste procedures of foutieve adviezen over de behandeling van een cliënt.
Jouw cliënten vertrouwen op jouw expertise. Als jij AI blind vertrouwt en die informatie doorgeeft, kunnen er dingen misgaan. Niet omdat AI het slecht bedoelt. AI "bedoelt" helemaal niets. Maar omdat het systeem niet ontworpen is om altijd de waarheid te vertellen.
Stel je voor: je gebruikt AI om snel informatie op te zoeken over bijwerkingen van een medicijn. AI geeft een helder overzicht met vijf bijwerkingen. Maar een ervan klopt niet. Als je dat niet checkt en het opneemt in je rapportage, kan dat verstrekkende gevolgen hebben voor de zorg aan je cliënt.
Hoe herken je fouten?
Het lastige aan AI-fouten is dat ze niet opvallen. De tekst leest vloeiend, de zinnen kloppen grammaticaal en de informatie klinkt aannemelijk. Toch zijn er signalen waar je op kunt letten.
- Specifieke cijfers en percentages. AI noemt graag exacte getallen ("78% van de patiënten..."). Die zijn vaak verzonnen.
- Bronvermeldingen. AI genereert regelmatig nep-referenties, compleet met auteursnaam, tijdschrift en jaartal.
- Stellige uitspraken over medische zaken. Als AI heel zeker klinkt over een diagnose of behandeling, is dat juist reden om extra alert te zijn.
- Informatie die "te mooi" of "te compleet" lijkt. Als alles perfect op z'n plek valt, is de kans groter dat AI het heeft aangevuld met verzonnen details.
Als je iets niet kunt verifiëren, wees dan extra kritisch. Het feit dat je het niet kunt checken, is op zichzelf al een waarschuwingssignaal.
AI is getraind om behulpzaam te zijn en antwoorden te genereren. Het heeft geen besef van "weten" of "niet weten" zoals mensen dat hebben. Het voorspelt simpelweg welk woord het beste past bij de vorige woorden. Daardoor produceert het altijd een antwoord. Ook als het beter zou zijn om te zeggen: "Dat weet ik niet."
Sommige AI-systemen zijn hier beter in geworden en zeggen vaker "ik weet het niet zeker." Maar volledig vertrouwen op die eerlijkheid is niet verstandig. Jij blijft de eindverantwoordelijke.
Hoe voorkom je problemen?
AI kan een geweldig hulpmiddel zijn, zolang je het op de juiste manier inzet. Hier zijn vier praktische richtlijnen:
- Controleer belangrijke informatie via betrouwbare bronnen. Heb je iets van AI gekregen dat je wilt gebruiken? Controleer het. Vooral als het gaat om feiten, cijfers of medische informatie.
- Gebruik AI voor concepten en ideeën, niet als eindproduct. Laat AI je helpen brainstormen, een eerste versie schrijven of ideeën genereren. Maar lever nooit iets op zonder het zelf te hebben bekeken en aangepast.
- Vertrouw op je eigen vakkennis. Als iets "niet klopt" volgens jouw professionele gevoel, dan klopt het waarschijnlijk ook niet. Jij kent je vak. AI niet.
- Bij medische info: altijd checken via officiële bronnen. Denk aan het Farmacotherapeutisch Kompas, protocollen van je organisatie, of vakliteratuur. Neem nooit klakkeloos medische informatie van AI over.
De controle-checklist
Voordat je AI-output gebruikt, loop je deze vier vragen langs. Als je op een ervan "nee" of "twijfel" antwoordt, gebruik de informatie dan niet zonder aanvullend onderzoek.
- Kloppen de feiten? Herken je de informatie? Komt het overeen met wat je weet?
- Kan ik dit verifiëren via een tweede bron? Als je het niet kunt checken, gebruik het dan niet voor belangrijke beslissingen.
- Past dit bij wat ik zelf weet? Jouw vakkennis is je beste filter. Als iets raar aanvoelt, onderzoek het dan.
- Zou ik mijn naam hieronder zetten? Als je twijfelt, is het antwoord nee. Pas de tekst aan totdat je er wel achter staat.
Scenario's uit de praktijk
Mark vraagt AI naar interacties tussen twee medicijnen. AI geeft een gedetailleerd antwoord met een percentage en een bron. Mark checkt de bron. Die bestaat niet. AI heeft de informatie verzonnen.
Les: Hoe specifieker en "wetenschappelijker" AI klinkt, hoe belangrijker het is om te checken.
Lisa gebruikt AI om een samenvatting te maken van een nieuw protocol. AI levert een mooie samenvatting, maar Lisa vergelijkt deze met het originele document. Ze ziet dat AI een stap heeft overgeslagen. Ze vult dit zelf aan.
Les: AI als startpunt, jij als eindcontrole.
AI geeft een antwoord met drie bronvermeldingen, inclusief jaartallen en auteursnamen. Het ziet er betrouwbaar uit. Maar als de bronnen te specifiek zijn om snel te checken, is dat juist een rode vlag. AI verzint dit soort details vaak.
Les: Specifieke bronvermeldingen van AI zijn geen bewijs van betrouwbaarheid. Integendeel: controleer ze altijd.
- Heb je zelf weleens informatie van AI overgenomen zonder te controleren? Wat zou er mis kunnen gaan?
- Hoe zou je in jouw werk de controle-checklist kunnen toepassen?
- Wanneer vind jij het wel verantwoord om AI-output direct te gebruiken, en wanneer niet?
Test je kennis
Denk aan een moment waarop je iets niet wist en informatie opzocht. Hoe controleer jij normaal gesproken of informatie klopt? Via een collega, een richtlijn, een website? Zou je datzelfde doen bij een antwoord van AI?
Dit neem je mee
- AI kan "hallucineren": overtuigend klinkende informatie verzinnen die niet klopt
- Hoe specifieker AI klinkt (cijfers, bronnen, percentages), hoe kritischer je moet zijn
- Controleer belangrijke informatie altijd via een tweede, betrouwbare bron
- Bij medische info: gebruik officiële bronnen zoals het Farmacotherapeutisch Kompas, niet AI
- Algemene Verordening Gegevensbescherming (AVG/GDPR) — Europese privacywetgeving
- Autoriteit Persoonsgegevens — Basis AVG — Nederlandse uitleg over privacyrechten en -plichten
- 3 Gouden Regels — ontwikkeld door Practoraat Zorg en Technologie als ethisch kader voor AI-gebruik in de zorg
- Practoraat Zorg en Technologie (Alfa-college, 2025) — curriculaire basis voor deze leerroute