De advocaten dienden bij de rechtbank documenten in die foute informatie of in enkele gevallen volledig verzonnen rechtszaken citeerden. Ze hadden een chatbot gebruikt om hun teksten te schrijven.
In de Verenigde Staten krijgen advocaten van het kantoor Levidow, Levidow & Oberman een boete van 5.000 dollar voor het indienen van verzonnen informatie. In een rechtszaak tegen de Colombiaanse luchtvaartmaatschappij Avianca had het advocatenkantoor ChatGPT gebruikt om vergelijkbare rechtszaken op te zoeken en te citeren. Bedoeling van dat soort informatie is om jurisprudentie aan te tonen: als bepaalde uitspraken in vergelijkbare zaken werden gedaan, dan kan de rechter misschien overtuigd worden om dat opnieuw te doen.
Probleem met de documenten die dit kantoor indiende, is echter dat ChatGPT een deel van de zaken die werden geciteerd had verzonnen. Het ‘hallucineren’ van informatie is een gekend probleem van generatieve AI. Volgens de rechter is het niet verboden om AI te gebruiken bij het opstellen van juridische zaken, maar moet de informatie wel correct zijn. En die verantwoordelijkheid ligt bij de advocaten zelf.
Fout opgemerkt of meer nieuws? Meld het hier