Blog Susanne Fijen | Waarschuwing voor het gebruik van AI / ChatGPT!

Steeds vaker wordt kunstmatige intelligentie (AI) gebruikt, ook in ons werk. Zo ontvangen mijn kantoorgenoten en ik steeds vaker reacties van cliënten die zijn geschreven door ChatGPT. Maar let op! ChatGPT is zeker niet altijd betrouwbaar.

Zelf ontving ik recentelijk diverse opmerkingen op een (medisch) concept deskundigenrapport van een cliënt die zijn geschreven door ChatGPT. Een en ander zal worden voorgelegd aan de medisch adviseur, maar ik ben benieuwd hoe betrouwbaar de medische kennis van ChatGPT is.

Waar ChatGPT in ieder geval niet betrouwbaar voor is gebleken, is jurisprudentieonderzoek. Zo bleek recentelijk in een zaak van een van mijn kantoorgenoten. Mijn kantoorgenoot ontving van een cliënt een door ChatGPT geschreven reactie op een gerechtelijke uitspraak. ChatGPT verwees hierin naar een aantal rechterlijke uitspraken (met ECLI-nummers) die door ChatGPT werden samengevat. Volgens ChatGPT zouden deze zaken letselschadezaken betreffen. Bij invoering van deze ECLI-nummers op rechtspraak.nl, bleken deze uitspraken echter te gaan over heel andere onderwerpen dan letselschade en een aantal van de uitspraken was niet eens gepubliceerd.

Voor jurisprudentieonderzoek blijkt ChatGPT dus niet bepaald betrouwbaar. Dat was in ieder geval voor de Amerikaanse advocaat Steven A. Schwartz een harde les. Hij gebruikte ChatGPT in een gerechtelijke procedure tegen de Colombiaanse luchtvaartmaatschappij Avianca, waarin hij een passagier bijstond die tijdens een vlucht naar New York gewond raakte doordat een serveerwagen tegen zijn knie aan botste. In de procedure werden door Schwartz na het gebruik van ChatGPT daartoe, diverse vergelijkbare rechtelijke uitspraken aangehaald die steeds in het voordeel van zijn cliënt uitpakten.   Wat bleek? De uitspraken bleken niet te bestaan.[1]

Let dus goed op bij het gebruik van ChatGPT! Zeker nu ChatGPT (anders dan verwijzing naar foutieve en niet bestaande rechterlijke uitspraken) niet voorziet in een bronvermelding. Dat maakt de informatie niet goed controleerbaar. Voorts is de informatie die ChatGPT verstrekt vaak niet up to date. Dat komt omdat ChatGPT haar kennis haalt uit (oudere) informatiebronnen zoals nieuwsberichten en artikelen. De meeste bronnen die daarvoor worden gebruikt, zijn vóór 2021 verschenen, aldus NU.nl.[2] De kans is dus groot dat de informatie die ChatGPT geeft onvolledig, onjuist en/of achterhaald is.

Blijf dus altijd alert en kritisch wanneer je iets ontvangt dat is gegenereerd door of bij gebruik van AI!