In enkele recente rechtszaken in de VS raakten toonaangevende advocatenkantoren in opspraak door het onzorgvuldig gebruik van AI. Na de eerder besproken zaken van /de advocaten Reeves en Rasch, waarin AI-gegenereerde fouten tot een berisping en verwijdering van een verzoekschrift leidden, volgt nu een derde voorbeeld: het prestigieuze kantoor K&L Gates en het Californische firm Ellis George kregen samen een boete van $31.100 wegens het indienen van een processtuk met verzonnen jurisprudentie.
De boete werd op 6 mei opgelegd door rechter Michael Wilner van de federale rechtbank in het Central District of California. Het gaat om een rechtszaak tegen een verzekeringsmaatschappij. Een team van advocaten van K&L Gates en Ellis George LLP trad op namens eiser. Ze bleken AI-ongeletterd en dat leidde volgens de rechter tot een “collectief debacle”.
Hoe kon dit gebeuren?
De kern van de zaak: rechter Wilner hield als instructierechter toezicht op de voorfase van het proces. Advocaat Trent Copeland van kantoor Ellis George gebruikte AI-tools om een opzet te maken voor een aanvullend processtuk binnen die fase. Die schets bevatte onjuiste en verzonnen juridische verwijzingen. Copeland stuurde het stuk door naar K&L Gates, waar het werd overgenomen zonder enige controle. Volgens rechter Wilner heeft geen enkele advocaat of medewerker het onderzoek geverifieerd voordat het stuk werd ingediend.
Wilner merkte op dat van de 27 citaten in de tien pagina’s tellende brief er negen onjuist waren. Minstens twee aangehaalde uitspraken bestonden helemaal niet. En verschillende citaten waren simpelweg verzonnen.
“Direct gezegd: het gebruik van AI door eiser heeft mij actief misleid,” schreef Wilner. “Ik las hun brief, was geïntrigeerd door de aangehaalde bronnen, en zocht de uitspraken op — alleen om erachter te komen dat ze niet bestonden. Dat is verontrustend. Het had bijna geleid tot het nog kwalijkere gevolg dat ik deze verzinsels zou opnemen in een rechterlijke uitspraak.”
Na signalering van twee fouten nam Wilner contact op met K&L Gates. Die dienden daarop een herziene versie in, waarin alleen de gemelde fouten waren verwijderd. Maar de herziene versie bevatte nog steeds AI-fouten, inclusief citaten die nergens op gebaseerd waren. Er was geen melding aan de rechter dat AI was gebruikt, en de begeleidende e-mail verwees enkel naar een “inadvertent production error”.
Eigenlijk is het verbazingwekkend dat advocaten van statuur dit type vergissingen maken. De Will Smith-achtige Trent Copeland is partner in een groot kantoor, volgens zijn website meer dan 60 prestigezaken gepleit, volgens een Amerikaans juridisch tijdschrift behorend tot de “500 Leading Lawyers in America”. Clienten onder meer: Jean Claude Van Damme, Matt LeBlanc, Tracey Edmonds, Shannen Doherty, TMZ Co-founder Jim Paratore en een zaak waar Justin Bieber bij betrokken was.
Instructierechter Wilner accepteerde later de uitgebreide schriftelijke verklaringen van alle betrokken advocaten, inclusief excuses en erkende fouten, maar sprak wel duidelijke taal:
“Zelfs met recente vooruitgang mag een redelijk bekwame advocaat zijn juridische onderzoek en schrijfwerk niet uitbesteden aan deze technologie — zeker niet zonder enige poging tot verificatie.”
“De advocaten bij K&L Gates hebben nagelaten het onderzoek dat zij ontvingen te controleren. Daardoor belandde nep-informatie in het eerste stuk dat ik onder ogen kreeg.”
“Toen ik hen op de problemen wees, dienden ze een nieuwe versie in die nog steeds een half dozijn AI-fouten bevatte.”
“De verklaringen maakten duidelijk dat de AI ‘hallucinaties’ inhoudelijk niet eens zo ver van de correcte rechtsopvattingen zaten. Maar dat is een zwak excuus. De inzet van AI zonder controle blijft onverantwoord.”
“De advocaten hadden meerdere kansen — voor en na het indienen — om deze fouten te herkennen en te corrigeren. Dat is niet gebeurd.”
De rechter benadrukte dat het hier niet om een menselijke vergissing ging, maar om gedrag dat grenst aan kwade trouw. De sanctie bestond uit een betaling van $26.100 aan de verdediging voor gemaakte kosten en $5.000 aan aanvullende proceskosten. Rechter Wilner besloot de boete op te leggen aan de kantoren, niet aan de individuele advocaten, mede vanwege de openheid en spijtbetuigingen achteraf.
“Hun schuldbekentenissen waren volledig, eerlijk en oprecht. Verder straffen zou de rechtvaardigheid geen goed doen.”
Lessen voor de praktijk
Gebruik AI, schrik er niet voor terug. Maar weet wat je doet. Wilner’s waarschuwing is opnieuw: laat je als advocaat niet verleiden tot het snelle werk van een taalmodel. Zelfs als de output plausibel klinkt, blijft de eindverantwoordelijkheid bij de mens. AI is geen shortcut, zeker niet in juridische procedures.