Een tweede golf van kunstmatige intelligentie (KI) en recht is de juridische wereld aan het overspoelen. De eerste, rond de negentiger jaren van de vorige eeuw, ebde weg door een tekort aan computerkracht en een gebrek aan digitale juridische data. Nu lijkt het menens te worden en dienen de juristen op hun tellen te passen. Althans, er zijn mensen die beweren dat in 2030 computers het merendeel van de vonnissen voor hun rekening nemen. Ook zou het Kodak-moment voor de advocatuur aanstaande zijn als zij niet met hun tijd mee gaan.

Computers zijn niet intelligent
Gaat het zo'n vaart lopen? Nee, natuurlijk niet. Nog even los van het feit dat Kodak de boot helemaal niet miste omdat het niets zag in digitale fotografie, geleerde computerdeskundigen roepen al jaren dat de computer binnen een bepaalde tijd net zo intelligent gaat worden als de mens. Keer op keer blijkt een dergelijke voorspelling niet uit te komen. Zoals Walter Isaacson schrijft in het boek The Innovators, 'artificial intelligence remained a mirage, always about twenty years away' (pagina 468). Natuurlijk kunnen en zullen computers steeds meer meer taken van mensen overnemen, ook van juristen–maar intelligent? In hetzelfde boek over innovators zegt een Berkeley professor over het Jeopardy winnende computersysteem Watson, 'it didn't understand the questions, nor its answers, –, nor that it was playing a game'. In het boek aangehaalde deskundigen zien dan ook met name voordeel in het samenwerken van mens en machine, de mens-machine interactie. Dat is wat de mensheid vooruit zal helpen, niet de overname van de mens door een machine. Dat is (vaak) onmogelijk en onwenselijk.

Deep learning is onbegrijpelijk
Ik was laatst op een interessante bijeenkomst van de Dutch Legal Tech Meetup waar een onderzoeker van de Universiteit Twente kort de ontwikkeling van kunstmatige intelligentie schetste. Snel gezegd loopt dat van systemen waarvan wij nog kunnen begrijpen wat er onder de motorkap gebeurt tot systemen waarbij dat in het geheel niet meer mogelijk is. Naar dat laatste wordt vandaag de dag vaak verwezen met de term deep learning. Volgens de onderzoeker is datgene wat er in de 'diepe' kern van dit soort systemen gebeurt onbegrijpelijk. Het is volstrekt onduidelijk hoe wordt geredeneerd en het systeem zelf kan veel, maar het kan vooralsnog niet uitleggen hoe het tot iets is gekomen.

Ook een computersysteem moet zich aan de Grondwet houden
Is dat dan erg? Voor een spelletje schaak, Jeopardy of Go niet, wat mij betreft. Maar voor een verdachte die graag wil weten waarom hij of zij een bepaalde straf krijgt, wel. Een verdachte heeft daar bovendien recht op. Artikel 121 van onze Grondwet stelt immers dat vonnissen de gronden inhouden waarop zij rusten. Ik zou dus zeggen, kunstmatige intelligentie prima, deep learning prima, maar dan ter assistentie van de jurist en op zo'n manier dat het systeem aan de verdachte duidelijk kan maken waarom het tot een zeker oordeel is gekomen. Dat lijkt me een interessante uitdaging voor de deskundigen op het gebied van kunstmatige intelligentie en recht. Ik werk met Recht.nl op dit moment ook met kunstmatige intelligentie-tools, maar ik moet er niet aan denken te weten te moeten komen waarom die tools werken zoals ze werken. Het lijkt me een lastige klus.

Brein rechter is een zwarte doos
De vraag van de zwarte doos die over het lot van verdachten gaat beslissen zonder daarover een verklaring te geven, wordt vaak gesteld als het gaat over kunstmatige intelligentie en recht. Ook onlangs weer op een bijeenkomst waar de Amerikaanse technologie en recht professor Daniel Katz het woord voerde. Hij gaf daarop het antwoord dat kunstmatige intelligentie eerst en vooral ingezet zal gaan worden voor eenvoudige en veelvoorkomende zaken–waarbij ik me dan gelijk afvraag; behoeven die beslissingen dan geen uitleg? En wat als de technologische ontwikkelingen verder gaan dan we nu kunnen en durven bevroeden en computersystemen ook ingewikkelde zaken kunnen behandelen? Ook in die gevallen lijkt Katz niet zo'n punt te maken van het gebrek aan onderbouwing door de zwarte doos. Hij stelde, 'de ultieme zwarte doos is het brein van de rechter. Jullie denken dat rechters van nu in uitspraken een motivering geven? Het is iets dat op een (juridische) motivering lijkt, maar vormen de teksten wel de werkelijke beweegredenen die rechters tot een bepaalde beslissing doen komen?'

Interessante opmerking, stof om over na te denken, maar niet direct een constatering die mij overtuigt om de zwarte dozen maar uit de kast te halen en het juridisch domein in te schuiven. Sterker, ik sluit af met de woorden van de Haagse advocaat en legal tech-scepticus Georg van Daal: laten we niet achter de grillen van goeroe's aan rennen.