Sztuczna inteligencja miała przyspieszyć pracę jednej z najbardziej prestiżowych kancelarii na Wall Street, a zamiast tego doprowadziła do kompromitującej wpadki. Do sądu trafiły dokumenty z błędnymi cytatami, przekłamaniami, a nawet klasycznymi „halucynacjami” AI.
- Prawnicy z Sullivan & Cromwell musieli przeprosić sąd federalny za złożenie pisma procesowego zawierającego ok. 40 błędnych cytatów i innych nieścisłości wygenerowanych przez AI.
- Kancelaria przyznała, że posiada procedury ograniczające tego typu ryzyko, ale tym razem ich nie dochowano, a wpadkę wykryła dopiero konkurencyjna firma prawnicza.
Elitarna kancelaria dała się nabrać własnej AI
Ta historia pokazuje, że nawet najdroższy garnitur i logo znanej kancelarii prawniczej nie chronią przed starym problemem, jakim jest bezrefleksyjne kopiowanie tego, co podsunie komputer.
Sullivan & Cromwell, czyli jedna z najbardziej renomowanych kancelarii prawniczych z Wall Street, musiała oficjalnie przepraszać sędziego federalnego po tym, jak złożyła do sądu dokument zawierający błędy wygenerowane przez sztuczną inteligencję.
Chodziło o nieprawidłowe cytaty, błędne odniesienia do prawa, a także tzw. halucynacje AI, czyli sytuacje, w których model po prostu zmyśla źródła, orzeczenia lub treść przepisów.
Autorem listu z przeprosinami był Andrew Dietderich, jeden z dyrektorów globalnej praktyki restrukturyzacyjnej kancelarii.
Prawnik napisał, że firma „głęboko żałuje” całego incydentu i bierze odpowiedzialność za brak odpowiedniej kontroli nad treścią złożonego pisma.
Dramaturgii tej sytuacji dodaje fakt, że wspomniane błędy nie zostały wykryte wewnętrznie przez samą kancelarię, ale przez konkurencyjną firmę prawniczą Boies Schiller Flexner, która uczestniczyła w tej samej sprawie.
Sullivan & Cromwell stwierdziła, że posiada „kompleksowe wytyczne i wymogi szkoleniowe” dotyczące korzystania z narzędzi AI w pracy prawniczej.
Problem polega na tym, że procedury te po prostu nie zostały zastosowane w praktyce, a dodatkowy etap weryfikacji także zawiódł. W efekcie do sądu trafiło pismo z około 40 błędami.
Cała sprawa dotyczy postępowania upadłościowego w Nowym Jorku, związanego z likwidacją Prince Global Holdings Limited, konglomeratu z Kambodży.
Sama kancelaria nie ujawniła, jakiego narzędzia AI używała do przygotowania feralnego dokumentu.
Za często ufamy sztucznej inteligencji
Ta historia jest o tyle istotna, że nie jest już wyjątkiem.
Sędziowie w USA karali już prawników w dziesiątkach spraw za korzystanie z AI bez rzetelnego sprawdzenia efektów jej pracy.
Według bazy prowadzonej przez badacza specjalizującego się w nowych technologiach na prawnym poletku – Damiena Charlotina – na świecie odnotowano już ponad 1300 przypadków halucynacji AI w pismach sądowych, z czego ponad 900 w samych Stanach Zjednoczonych.
Oczywiście, AI może pomóc prawnikom pisać szybciej, ale nadal nie potrafi zastąpić starej, nudnej i absolutnie niezbędnej czynności, czyli sprawdzenia, czy to, co napisała, ma w ogóle pokrycie w faktach i realnym prawie.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
