Prawnik ukarany za fałszywe zeznania wygenerowane przez ChatGPT

Sąd Najwyższy Nowego Meksyku orzekł bezpośrednie naruszenie prawa przez prawnika Stephena Aaronsa, który złożył pismo procesowe zawierające „fałszywe zeznania całkowicie sfabrykowanych świadków”. Sprawa dotyczy odwołania od wyroku skazującego za morderstwo, gdzie Aarons, obrońca Oscara Renee Sandovala, wykorzystał ChatGPT do przygotowania dokumentów. Sąd skierował sprawę do rady dyscyplinarnej, stwierdzając, że prawnik „wykazał brak skruchy i brak troski o swojego klienta”.

Prawnik przyznaje się do zaniedbań

Stephen Aarons, z ponad 40-letnim doświadczeniem w prawie karnym w Nowym Meksyku, przyznał przed sądem, że nie zweryfikował faktów ani podstaw prawnych w piśmie wygenerowanym przez sztuczną inteligencję, zanim je podpisał i złożył. Nie poinformował również klienta o tych zaniedbaniach ani o licznych błędach faktycznych i prawnych zawartych w dokumencie. Aarons został zatrudniony przez rodzinę oskarżonego, Oscara Renee Sandovala, skazanego na dożywocie za zabójstwo Shiereen Al-Jibury.

Pismo zawierające fałszywe zeznania i inne błędy zostało złożone w sierpniu 2025 roku. Kilka tygodni później stan Nowy Meksyk złożył wniosek o usunięcie części tego dokumentu. Aarons przyznał, że pismo zawierało fałszywe zeznania od:

• Funkcjonariuszy Michelle Amarillo i Sanchez
• Manala Al-Jibury i Teresy Marquez
• Danny'ego Stantona (dotyczące otrzymanych gróźb)
• Lindy Stanton (dotyczące gróźb wobec jej męża)
• Marii Chavez i Teresy Marquez (dotyczące wyglądu strzelca)

Ponadto, Aarons „przedstawił w sposób fałszywy autorytet prawny” w cytatach z poprzednich spraw, choć nie cytował całkowicie zmyślonych orzeczeń, a jedynie niedokładnie opisał prawdziwe. Prawnik zeznał, że wprowadził wygenerowany komputerowo transkrypt rozprawy o morderstwo oraz inne dokumenty do ChatGPT, co zaowocowało fałszywymi cytatami. Przyznał, że pismo cytowało „kilku świadków, którzy nigdy nie byli wezwani na rozprawę”, a także „świadka, który był wezwany, ale w piśmie błędnie podano jego nazwisko” oraz niedokładnie opisywało precedensy.

Konsekwencje i reakcja sądu

Aarons użył wersji ChatGPT opartej na modelu OpenAI o3, wydanej na początku 2025 roku. Stwierdził, że założył, iż narzędzie „wygeneruje niezawodne podsumowanie postępowania” i będzie dokładne ze względu na powszechne użycie AI w dziedzinach prawniczej i medycznej. Został on zawieszony w prawie do występowania przed Sądem Najwyższym Nowego Meksyku do czasu zakończenia postępowania dyscyplinarnego i ukarany grzywną w wysokości 5000 dolarów, którą ma wpłacić na fundusz ochrony klientów Izby Adwokackiej Nowego Meksyku. Sąd nakazał również wyznaczenie nowego prawnika z urzędu dla oskarżonego, usunął wszystkie poprzednie pisma z akt sprawy i zapowiedział, że sprawa będzie kontynuowana w roku sądowym 2026-27.

Sędziowie ostro skrytykowali Aaronsa podczas przesłuchania, wyrażając zdziwienie jego niewiedzą na temat możliwości generowania fałszywych informacji przez narzędzia AI. Podkreślili, że prawnicy muszą weryfikować dokładność informacji, niezależnie od ich źródła. Sędzia C. Shannon Bacon zarzuciła Aaronsowi naruszenie „co najmniej ośmiu lub dziewięciu przepisów kodeksu postępowania” i skrytykowała jego twierdzenie o nieświadomości „halucynacji AI”, wskazując, że nawet jej 13-letni siostrzeniec i 75-letnia macocha są świadomi tego problemu. Bacon stwierdziła, że Aarons „schował głowę w piasek” lub podjął ryzyko, co jest niezgodne z kodeksem postępowania.

Aarons bronił się, mówiąc, że pismo złożył rok temu, a „wiele wyszło na jaw w ciągu ostatniego roku”. Sędzia Bacon odparła, że problem używania AI przez prawników do cytowania zmyślonych spraw jest regularnie nagłaśniany od ponad trzech lat. Podkreśliła również, że nie ma „istotnej różnicy” między niedokładnym opisaniem prawdziwej sprawy a cytowaniem fałszywej, ponieważ zasady uczciwości wobec sądu obowiązują „z taką samą mocą” w obu przypadkach. Aarons wyraził skruchę, nazywając to „uczciwym błędem” i „lekcją dla wszystkich profesjonalistów, którzy polegają na tej potężnej, ale czasem niestabilnej technologii”.

Brak troski o klienta

Sędziowie zwrócili uwagę na brak troski Aaronsa o klienta. Sędzia Bacon zarzuciła mu, że nie poinformował klienta o problemie. Aarons przyznał, że nie rozmawiał z Sandovalem, który jest hiszpańskojęzyczny, ale poinformował jego brata i kuzyna o „problemie z pierwszym złożonym pismem”. Nie wspomniał jednak o użyciu ChatGPT ani o tym, że narzędzie „przedstawiło sądowi kłamstwa”.

Sędzia Julie Vargas podkreśliła, że sąd bardziej martwi się losem klienta, który pozostaje w areszcie, niż polityką dotyczącą AI. Sędzia Michael Vigil dodał, że używanie AI jest dopuszczalne, o ile prawnik weryfikuje dokładność danych. Podkreślił, że to prawnik ponosi odpowiedzialność za treść dokumentów, niezależnie od narzędzia czy osoby, która pomagała w ich przygotowaniu.

Sprawa Stephena Aaronsa stanowi ważne ostrzeżenie dla całej branży prawniczej, podkreślając kluczową rolę ludzkiej weryfikacji i odpowiedzialności w erze rosnącego wykorzystania sztucznej inteligencji. Pokazuje, że nawet najbardziej zaawansowane narzędzia AI nie zwalniają profesjonalistów z obowiązku rzetelności i dokładności, a ich niewłaściwe użycie może prowadzić do poważnych konsekwencji prawnych i etycznych, zwłaszcza gdy stawką jest wolność człowieka.

Źródło: arstechnica.com