Sullivan & Cromwell, OpenAI juristi, iesniedz tiesai dokumentu, kas pilns ar MI halucinācijām
Liga lasa atvainošanās vēstuli un izseko kompetences trūkuma punktiem. Alex skaidro, kāpēc šis vairs nav stāsts par jaunajiem juristiem.
- gada 18. aprīlī Sullivan & Cromwell partneris Endrjū Dīterihs (Andrew Dietderich), restrukturizācijas prakses līdzpriekšsēdētājs, nosūtīja trīs lappušu vēstuli ASV Bankrota tiesas Ņujorkas Dienvidu apgabala galvenajam tiesnesim Mārtinam Glennam. Vēstule bija atvainošanās par "neprecīzām atsaucēm un citām kļūdām" steidzamā prasības pieteikumā, kas iesniegts deviņas dienas iepriekš. "Dažas no tām," atzina Dīterihs, bija "mākslīgā intelekta ('MI') 'halucinācijas'." Vēstulei bija pievienots Pielikums A — desmitiem labojumu vairākos dokumentos: aizvietotas izdomātas tiesas lietu atsauces, izlabotas nepareizi citētas Chapter 15 normas un dzēstas atsauces uz precedentiem, kas vienkārši neeksistē.
Prasības pieteikums bija iesniegts 9. aprīlī Prince Global Holdings Ltd. Chapter 15 tiesvedībā. Kļūdas pamanīja nevis Sullivan & Cromwell. Tās pamanīja Boies Schiller Flexner — pretējās puses juristi.
Šis ir advokātu birojs, kas konsultē OpenAI par mākslīgā intelekta atbildīgu ieviešanu.
Kāpēc šis gadījums ir citāds
Juridiskā profesija jau gandrīz trīs gadus vāc MI halucināciju gadījumus. Mata v. Avianca atklāja sēriju 2023. gadā ar diviem Ņujorkas juristiem un sešām izdomātām lietām. Damiena Šarlotēna (Damien Charlotin) datubāze tagad uzskaita vairāk nekā 1000 incidentus visā pasaulē. Lielākā daļa stāstu sekas vienam un tam pašam scenārijam: mazas prakses jurists vai mazs birojs izmanto ChatGPT juridiskai izpētei, neveic pārbaudi un saņem sankcijas.
Sullivan & Cromwell nav šis stāsts.
Sullivan & Cromwell ir viens no prestižākajiem advokātu birojiem ASV. Tas konsekventi tiek ierindots starp pasaules vadošajiem birojiem M&A, restrukturizācijas un sarežģītu strīdu jomās. Tā gada ieņēmumi ir ap 2 miljardiem dolāru. Tā partneri pelna pašā juridiskās profesijas virsotnē. Un, pēc paša biroja apraksta, tas konsultē OpenAI — pasaulē nozīmīgāko mākslīgā intelekta uzņēmumu — par drošu un ētisku MI ieviešanu.
Ja birojs ar šādu profilu nespēj novērst MI halucināciju nokļūšanu federālās bankrota tiesas reģistrā, jautājums, vai jūsu organizācija to spēj, vairs nav retorisks.
Ko Dīteriha vēstule patiesībā saka
Atvainošanās vēstule ir rūpīgi sagatavots dokuments, un ir vērts izlasīt to, kas tajā tiešām ir.
Pirmkārt, birojs atzīst, ka kļūdas ir reālas. Pielikums A aizņem vairākas lappuses un labo kļūdas steidzamajā prasībā, atbalstošajā deklarācijā un palīgdokumentos. Daudzi labojumi ir saturiski — atsauces aizvietotas, nepareizi aprakstīti tiesas atzinumi izlaboti, atsauces uz precedentiem, kas šķietami neeksistē, dzēstas.
Otrkārt, birojs atzīst, ka iekšējie protokoli netika ievēroti. Sullivan & Cromwell, tāpat kā lielākajai daļai šāda izmēra biroju, ir MI lietošanas politika. Pie prasības strādāja jaunie juristi, kuri izmantoja MI rīkus. Protokols paredzēja, ka MI ģenerētas atsauces pirms iesniegšanas jāpārbauda pret pirmavotiem. Tas netika izdarīts.
Treškārt, birojs paskaidro, kāpēc protokols nestrādāja: prasība bija steidzama. Parastais pārbaudes cikls tika saspiests. Atsauces, kuras parasti tiktu pārbaudītas divreiz, tika pārbaudītas vienreiz vai dažos gadījumos vispār ne.
Ceturtkārt, birojs apņemas "izvērtēt, vai nepieciešami papildu uzlabojumi iekšējā apmācībā un pārbaudes procesos."
Tieši šis pēdējais teikums ir tas, kuram vajadzētu raisīt bažas katram juriskonsultam, kurš lasa šo gadījumu. Birojam jau bija apmācība. Birojam jau bija pārbaudes procesi. Protokols pastāvēja. Nekas no tā neapturēja halucinācijas no nokļūšanas tiesas reģistrā.
Strukturālā mācība
Katrs nopietns MI halucināciju sankciju gadījums atklāj vienu un to pašu modeli failā punktā. Jurists strādā laika spiedienā. Viņš izmanto MI, lai paātrinātu darbu. Iznākums izklausās ticami. Viņam nav apmācīta refleksa pārbaudīt, vai tas, ko viņš lasa, patiešām ir reāla atsauce. Viņš iesniedz dokumentu. Atsauce neeksistē.
Sullivan & Cromwell gadījumā laika spiediens bija steidzama prasība. Mata v. Avianca — nokavēts termiņš. Apvienotās Karalistes lietā Ayinde v. Haringey — tiesvedības grafiks, kas saspiedās ātrāk nekā jurista pārbaudes kapacitāte. Strukturālais nosacījums katrā gadījumā ir vienāds: MI paātrina sākotnējo darbu, bet cilvēka pārbaude ir vienīgais, kas pieķer galarezultāta kļūdas, un tieši pārbaude ir tā daļa, ko saspiež, kad saspiežas termiņi.
Politika to neaptur. Politika ir teikums. Tai nav spēka brīdī, kad jaunais jurists pulksten 02:00 cenšas pabeigt steidzamu prasību pirms tiesas termiņa pulksten 09:00. Tas, kas šajā brīdī aptur halucināciju, nav politika. Tā ir apmācīta kompetence — spēja atpazīt MI ģenerētu atsauci, kas nešķiet pareiza, izpratne, kā MI fabricēšana darbojas mehāniski, un darba plūsmas muskuļatmiņa veikt pārbaudi pat tad, kad pulkstenis ir īsāks, nekā pārbaudes solis to pelna.
Tā ir kompetence precīzajā nozīmē. Tas ir tas, ko mēs mēram ar ES MI regulas 4. pantu. Tas ir tas, ko Twin Ladder Standarta 5. pīlārs (Pierādījumi un dokumentācija) un 7. pīlārs (MI lēmumu robežas) ir radīti novērtēt. Tas ir tas, ko rakstveida politika fundamentāli nespēj nodrošināt.
Ko Sullivan & Cromwell izdarīja pareizi un ko nepareizi
Biroja reakcija pēc atklāšanas tehniski ir priekšzīmīga. Dīterihs uzrakstīja atvainošanās vēstuli dažu dienu laikā. Pievienoja detalizētu labojumu sarakstu. Neapsūdzēja jaunos juristus. Nemazināja kļūdas. Atzina, ka iekšējie protokoli netika ievēroti, un apņēmās pārskatīt apmācību un procesus. No regulatora un advokātu palātas perspektīvas tieši šādu rīcību sagaida no S&C kalibra biroja, kad šādas problēmas tiek konstatētas.
Tas, ko birojs izdarīja nepareizi, ir tā daļa, kas notika pirms atvainošanās vēstules. Kompetences slānis, kuram vajadzēja pieķert halucinācijas pirms iesniegšanas, vienkārši nebija pietiekami spēcīgs. Jaunie juristi tās nepieķēra. Uzraugošais partneris tās nepieķēra. Saspiestais pārbaudes grafiks tās nepieķēra. Boies Schiller Flexner tās pieķēra. Tā ir kompetences neveiksme, sadalīta starp lomām un senioritātes līmeņiem, un tā precīzi atbilst strukturālajam modelim, ko esam novērojuši vairāk nekā 1000 gadījumos.
Kāpēc šis vairs nav stāsts par jaunajiem juristiem
Trīs gadus dominējošā nozares atbilde uz MI halucināciju gadījumiem bija: "tā ir jauno juristu apmācības problēma." Sullivan & Cromwell gadījums šo naratīvu beidz. S&C jaunie juristi, kuri izmantoja MI atsauču darbam, ir vieni no izglītotākajiem juristiem visur pasaulē. Partneri, kuri viņus uzraudzīja, ir vieni no pasaules pieredzējušākajiem restrukturizācijas juristiem. Birojs, kas viņus nodarbina, konsultē OpenAI par MI ieviešanu. Ja kompetences plaisa sniedzas līdz S&C restrukturizācijas praksei, tā sniedzas līdz katram lielajam birojam, katra juriskonsulta birojam un katrai regulētai organizācijai, kas izmanto MI kritiskās darba plūsmās.
Šī nav jauno juristu apmācības problēma. Tā ir strukturāla kompetences problēma katrā profesionālās prakses līmenī, kur MI tagad atrodas darba plūsmā. Sullivan & Cromwell vēstule, lasīta uzmanīgi, saka tieši to — kaut arī ne ar šādiem vārdiem.
Ko juriskonsultiem vajadzētu paņemt no šī gadījuma
No Prince Global Holdings dokumentiem tieši izriet trīs lietas.
Pirmkārt. Rakstveida MI politika ir nepieciešama, bet nepietiekama. Sullivan & Cromwell bija politika. Tā nenovērsa halucinācijas. Svarīgais ir kompetences slānis zem politikas, un kompetencei nepieciešams novērtējums, apmācība un mērāmi pierādījumi — nevis tikai dokuments iekšējā tīklā.
Otrkārt. Saspiesti termiņi ir paaugstināta riska, nevis pazemināta riska vide MI lietošanai. Lielākā daļa biroju pieļauj plašāku MI palīdzību zem laika spiediena, netieši pieņemot, ka MI ietaupa laiku. Sullivan & Cromwell gadījums rāda, ka saspiesti termiņi ir tieši tas brīdis, kad MI halucinācijas visdrīzāk nokļūs galadokumentā, jo pārbaudes solis ir pirmais, ko nogriež. MI lietošana zem laika spiediena ir jāregulē stingrāk, nevis vājāk.
Treškārt. Pārbaudi nevar deleģēt lejup bez paša pārbaudītāja pārbaudes. Jaunajiem juristiem, kuri izmanto MI, jābūt kompetentiem MI verifikācijā. Partneriem, kuri pārbauda darbu, jābūt kompetentiem pieķert to, ko jaunie juristi palaiduši garām. Birojam, kurš pārskata savus protokolus, jābūt kompetentam novērtēt, vai apmācība patiešām rada apmācīto refleksu, vai arī tā ražo sertifikātus bez prasmes. Katra no šīm ir atsevišķs kompetences novērtējums, un nevienu no tām neapmierina politikas izlasīšana.
Plašākais konteksts
ES MI regula no 2026. gada 2. augusta padarīja MI kompetenci par juridisku prasību organizācijām, kas ievieš MI ES. ASV nav līdzvērtīga likuma. Bet Mata v. Avianca sankcijas, Ayinde un Al-Haroun lietas Apvienotajā Karalistē un tagad Sullivan & Cromwell vēstule Ņujorkā visi māca vienu un to pašu mācību neatkarīgi no jurisdikcijas: kad cilvēka kompetences slānis sabrūk, MI ieviešanas neveiksmes parādās tiesas reģistros, regulatoros iesniegtos dokumentos un atvainošanās vēstulēs federāliem tiesnešiem. Juridiskā ekspozīcija ir reāla, reputācijas ekspozīcija ir reāla, un atjaunošanas izmaksas tiek apmaksātas ar laiku, naudu un stāvokli profesijā.
Ja Sullivan & Cromwell var piedzīvot šādu pieredzi, vienlaikus konsultējot OpenAI par drošu MI ieviešanu, jautājums, vai jūsu organizācijai ir kompetences slānis, lai to novērstu, vairs nav neobligāta lasāmviela. Tas ir pats darbs.
— Liga
Alex piezīme: Sullivan & Cromwell gadījums ir brīdis, kad MI halucināciju saruna šķērso slieksni. Trīs gadus mēs esam runājuši par jaunajiem juristiem un mazajiem birojiem. Tagad mēs runājam par partneriem vienā no pasaules sarežģītākajiem birojiem, kuri uzrauga darbu birojā, kas konsultē OpenAI. Ja jūsu MI kompetences programma balstās uz pieņēmumu "tas notiek ar citiem cilvēkiem," šis pieņēmums ir jāatmet. Kompetence nav jaunā līmeņa prasme. Tā ir biroja mēroga operacionālā spēja, un tagad tā ir arī regulēta.
Avoti
-
Endrjū Dīteriha vēstule galvenajam tiesnesim Mārtinam Glennam (PDF) — primārais avots. Pati trīs lappušu atvainošanās vēstule un Pielikums A ar labojumiem, datēts 2026. gada 18. aprīlī. Iesniegts lietā In re Prince Global Holdings Limited and Paul Pretlove, Bankr. S.D.N.Y. Lieta Nr. 1:26-bk-10769. Mitināts caur David Lat / Original Jurisdiction.
-
Sullivan & Cromwell Apologizes to Judge for AI Hallucinations — Bloomberg Law, 2026. gada aprīlis. Primārā ziņošana par Endrjū Dīteriha atvainošanās vēstuli galvenajam tiesnesim Mārtinam Glennam.
-
Top Law Firm Apologizes to Bankruptcy Judge for AI Hallucination — Bloomberg, 2026. gada 21. aprīlis. Atspoguļojums par Prince Global Holdings dokumentu kontekstu un S&C lomu, konsultējot OpenAI.
-
An AI Screw-Up By... Sullivan & Cromwell? — David Lat, Original Jurisdiction, 2026. gada aprīlis. Detalizēta juridiskās nozares analīze par neveiksmes punktiem; mitina vēstules PDF oriģinālu.
-
Sullivan & Cromwell Files Emergency 'Please Don't Sanction Us' Letter — Above the Law, 2026. gada aprīlis. Nozares komentārs par S&C OpenAI konsultācijas lomas ironiju.
-
Another 'hallucinated' court filing — CNN Business, 2026. gada 23. aprīlis. Plašāks komentārs par plaisu starp MI hype un MI ieviešanas realitāti.
-
Sullivan & Cromwell apologises after AI hallucinations — Legal Cheek, 2026. gada aprīlis. Jauno juristu skatpunkts un pārbaudes procesa saspiešanas konteksts.
-
Sullivan & Cromwell apologizes for AI-generated errors in Prince Group case — Canadian Lawyer, 2026. gada aprīlis. Detalizēts Pielikuma A labojumu un Boies Schiller Flexner atklājuma apraksts.
-
MI halucināciju sankcijas: 14 gadījumi un to mācības — Twin Ladder, 2025. gada oktobris. Iekšējais kompanjondokuments par plašāko sankciju modeli.
-
Damiena Šarlotēna halucināciju datubāze — Notiekoša globāla datubāze, kas izseko 1000+ dokumentētus MI halucināciju incidentus tiesvedībās.