Een opmerkelijke uitspraak van de rechtbank Gelderland in juni 2024 zette de juridische wereld op scherp. Voor het eerst werd ChatGPT, een AI-taalmodel, door een rechter gebruikt om een schatting te maken in een civiele zaak. Dit roept belangrijke vragen op over de toelaatbaarheid en betrouwbaarheid van kunstmatige intelligentie (AI) in juridische procedures.
De zaak betrof een geschil tussen buren over het rendementsverlies van zonnepanelen. Een van de buren had een dakopbouw geplaatst, waardoor de zonnepanelen van de buurman permanent in de schaduw stonden. De rechter moest de omvang van de financiële schade bepalen. Om de gemiddelde levensduur van zonnepanelen te achterhalen, raadpleegde de kantonrechter ChatGPT, dat een gemiddelde levensduur van 27,5 jaar aangaf. De reacties op deze werkwijze liepen uiteen van voorzichtig optimisme tot felle kritiek.
Wat speelde er?
De rechter in kwestie stond voor een lastige berekening. De levensduur van zonnepanelen en de bijbehorende opbrengsten waren relevante factoren om de schade vast te kunnen stellen. Hoewel de eiser cijfers en berekeningen aanleverde, vond de rechter deze moeilijk te volgen. In plaats van deskundigen of andere bronnen te raadplegen, besloot hij zelf een schatting te maken “mede met behulp van ChatGPT”.
Het gebruik van een AI-tool zoals ChatGPT is een nieuw fenomeen in de Nederlandse rechtspraak en leidt tot veel discussie. Was het verantwoord om AI te gebruiken? En zo ja, had de rechter de partijen niet eerst in de gelegenheid moeten stellen om hierop te reageren?
De vergelijking met de ‘Googelende rechter’
De uitspraak doet denken aan een arrest van de Hoge Raad uit 2011, waarin de term “Googelende rechter” werd geïntroduceerd. Destijds had een rechter zelfstandig op internet naar feiten gezocht die niet in de processtukken voorkwamen. Dit was volgens de Hoge Raad in strijd met het beginsel van hoor en wederhoor, omdat partijen altijd de gelegenheid moeten krijgen om te reageren op feiten die door de rechter naar voren worden gebracht.
Hoewel de rechter in de zonnepanelen-zaak aangeeft dat ChatGPT slechts “mede” als bron is gebruikt, ontstond er direct een vergelijkbare discussie. Moeten partijen de kans krijgen om zich uit te laten over informatie die door AI is gegenereerd? Veel juristen op platforms zoals LinkedIn stellen van wel.
Kritiek: ChatGPT is geen expert en de rechter is lijdelijk
Juristen waarschuwen ervoor dat AI-tools, zoals ChatGPT, niet zijn ontworpen voor juridische doeleinden. De meeste kritiek richt zich op het feit dat ChatGPT geen specialistische bron is. Waar een zoekmachine zoals Google nog naar bestaande informatie verwijst, genereert ChatGPT antwoorden zonder directe bronverwijzing. Dat maakt het moeilijk te controleren of de gegeven informatie correct is. Dit kan vooral problematisch zijn in een juridische context, waarin feiten zorgvuldig moeten worden onderbouwd.
Een ander fundamenteel bezwaar tegen het gebruik van ChatGPT door rechters, ligt in het beginsel van lijdelijkheid van de rechter. In het Nederlandse rechtssysteem geldt dat een rechter slechts mag oordelen op basis van het feitenmateriaal dat door de procespartijen is aangedragen. Dit betekent dat een rechter zich moet beperken tot de informatie die hem wordt voorgelegd en niet zelfstandig op onderzoek mag uitgaan. Door ChatGPT te gebruiken om zelf informatie te vergaren, zoals de levensduur van zonnepanelen, handelt een rechter mogelijk in strijd met dit beginsel. Het is de vraag of de rechter met het gebruik van AI nog voldoende lijdelijk blijft of dat hij daardoor juist actief betrokken raakt bij het samenstellen van het feitenmateriaal. Dit zou kunnen leiden tot een ongelijk speelveld tussen de procespartijen, vooral als zij geen gelegenheid hebben gehad om de door AI verstrekte informatie te betwisten.
Positieve geluiden: AI als hulpmiddel
Ondanks de zorgen zijn er ook positieve geluiden over het gebruik van AI in de rechtspraak. Sommigen benadrukken dat AI, zoals ChatGPT, een nuttig hulpmiddel kan zijn voor rechters bij bijvoorbeeld het analyseren van complexe informatie of het verwerken van grote hoeveelheden data. Volgens hen kan deze technologie helpen om het juridische proces efficiënter te maken, mits rechters zich bewust zijn van de beperkingen van AI en deze tools op de juiste manier inzetten. Er wordt dan ook gepleit voor gedegen training van juristen in het gebruik van AI, zodat de technologie op een verantwoorde en deskundige manier kan worden toegepast.
Wat kunnen we leren van deze zaak?
De zaak in Gelderland nodigt uit tot nadenken over de rol van AI in de rechtspraak. Aan de ene kant biedt AI kansen om het werk van rechters te ondersteunen en processen te versnellen. Aan de andere kant moeten we voorzichtig zijn met het blindelings vertrouwen op technologieën die nog niet volledig ontwikkeld zijn en niet specifiek zijn ontworpen voor juridische toepassingen.
In de praktijk lijkt het belangrijk om duidelijke richtlijnen op te stellen voor het gebruik van AI in de rechtspraak. De American Bar Association heeft in de Verenigde Staten bijvoorbeeld al richtlijnen gepubliceerd over het gebruik van generatieve AI door advocaten. Een dergelijk kader zou ook in Nederland nuttig kunnen zijn.
Daarnaast is het van belang dat partijen de kans krijgen om te reageren op informatie die door de rechter via AI is verkregen. Dit zou kunnen voorkomen dat het beginsel van hoor en wederhoor in gevaar komt. Zoals het arrest van de Hoge Raad uit 2011 duidelijk maakt, is dit een fundamenteel beginsel dat niet zomaar opzij mag worden geschoven. Ook niet in een tijdperk van snelle technologische ontwikkelingen.
Conclusie: een ontwikkeling die om duidelijke kaders vraagt
Het gebruik van ChatGPT door de rechter in Gelderland is een interessante ontwikkeling, maar het laat zien dat we nog een lange weg te gaan hebben voordat AI op betrouwbare wijze geïntegreerd kan worden in de rechtspraak. Hoewel AI kan helpen bij bepaalde taken, moet het gebruik ervan zorgvuldig worden afgewogen en binnen de regels van het proces- en bewijsrecht blijven. We volgen de ontwikkelingen hierover uiteraard op de voet.