TwinLadder Nedēļas Apskats

Izdevums #16 | 2025. gada septembris

---

Redaktora piezīme

Manā darbvirsmā ir mape ar nosaukumu "gandrīz." Tajā ir melnraksti, memorandi un izpētes izvades, kur MI radīja ticamu, bet nepareizu saturu, ko noķēru pirms tas aizgāja tālāk. Safabricēta lietas atsauce izpētes memorandā. Reāla lieta ar nepareizi attiecinātu nolēmumu. Likuma norma, kas citēta precīzi, bet no likuma novecojušās redakcijas.

Es šīs lietas noķeru, jo man ir divdesmit gadu prakse, uz ko balstīties. Es zinu, kad kaut kas neizklausās pareizi, pat ja atsauce virspusēji šķiet pareiza. Jautājums, kas nedod mieru, ir par to, vai nākamā juristu paaudze — apmācīta ar MI no pirmās dienas — attīstīs šo intuīciju.

Damien Charlotin MI halucināciju datubāze ir pieaugusi līdz 486 lietām visā pasaulē, no kurām 324 ir Amerikas Savienotajās Valstīs. Pieauguma temps ir paātrinājies no divām lietām nedēļā līdz divām vai trim dienā. Tie vairs nav atsevišķi gadījumi. Tie ir modelis. Un modelis atklāj kaut ko satraucošāku nekā juristu neuzmanību. Tas atklāj profesiju, kas arvien vairāk nespēj verificēt to, ko patstāvīgi nezina.

Eiropas praktiķiem halucināciju problēma nes papildu dimensiju. Saskaņā ar ES MI regulu 4. pants prasa dokumentētu MI pratību ikvienam, kas ievieš MI sistēmas. Birojs, kura juristi nespēj identificēt halucinētu izvadi, ne tikai riskē ar sankcijām. Tas ir neatbilstošs Eiropas likumam, kas ir spēkā kopš 2025. gada februāra.

---

[AUGSTA TICAMĪBA]

486 lietas un turpinās: ko halucināciju datubāze atklāj

Charlotin, neatkarīgs praktiķis Pelekan Data Consulting un pētnieks HEC Smart Law Hub, ir izveidojis to, kas ir kļuvis par definitīvo globālo MI halucināciju lietu izsekotāju tiesvedībā. Dati stāsta skaidru stāstu, un tas nav tas, ko jūs gaidītu.

Halucināciju dati	Problēmas mērogs
486 lietas visā pasaulē (Charlotin datubāze)	Pieaugums no 2/nedēļā līdz 2-3/dienā
324 Amerikas Savienotajās Valstīs	90% iesaista individuālos praktiķus vai mazos birojus
17% halucināciju līmenis (Lexis+ AI, labākais sniegums)	34% halucināciju līmenis (Westlaw MI atbalstītā izpēte)
58-88% halucināciju līmenis (vispārējas nozīmes LLM)	Neviens specializēts juridiskais MI rīks nav bez halucinācijām
3000-31 000+ $ sankciju diapazons	Eskalējas — tiesas zaudē pacietību

Kļūdu veidi ir daudzveidīgāki nekā "viltus atsauces." Charlotin identificē trīs atšķirīgas kategorijas:

Safabricētas lietas — MI izdomā neeksistējošas atsauces. Tās ir visvieglāk noķeramas. Lieta vienkārši neeksistē. Vienkārša Westlaw vai Lexis meklēšana atklāj safabricējumu sekundēs. Šis ir Mata v. Avianca scenārijs, un tas ir tas, kas piesaista mediju uzmanību.

Viltus citāti — reāla lieta ar safabricētu citātu. Grūtāk noķert, jo lieta eksistē un atsauce ir derīga. Jurists pārbauda lietas nosaukumu, redz, ka tā ir reāla, un neverificē konkrēto citātu. Tam nepieciešams izlasīt faktisko nolēmumu, nevis tikai apstiprināt atsauci.

Nepareizi attiecināts pamatojums — atsauce ir pareiza, lieta ir reāla, bet juridiskais princips, kas tai attiecināts, nav pamatots ar nolēmumu. Šī ir bīstamākā kategorija, jo tās atklāšanai nepieciešama saturiska juridiskā analīze. Tieši tā prasme, ko jurists cerēja, ka MI aizstās, ir prasme, kas nepieciešama, lai noķertu kļūdu.

Kurus noķer? Datubāze atklāj skaidru modeli. 90% sodīto juristu ir individuāli praktiķi vai mazie biroji. 56% pārstāv prasītājus; 31% pārstāv atbildētājus. Sodi svārstās no 3000 līdz 31 000+ dolāriem. Koncentrācija mazajos birojos nav mistiska — lielākiem birojiem ir izstrādātas pārvaldības politikas, obligāti verifikācijas darba procesi un apmācību programmas. Individuālajiem praktiķiem bieži šo struktūru trūkst.

Šai koncentrācijai vajadzētu satraukt Eiropas regulatorus. ES MI regula vienādi attiecas uz individuālajiem praktiķiem un Magic Circle birojiem. Bet individuālajam praktiķim Viļņā, kas lieto ChatGPT izpētei, ir ievērojami mazāk resursu verifikācijas darbplūsmu izveidei nekā Freshfields. Regulatīvais pienākums ir vienāds. Spēja to izpildīt nav.

Lietas turpina nākt. 2025. gada jūlijā tiesnese Nina Wang Denverā piesprieda MyPillow advokātiem Christopher Kachouroff un Jennifer DeMaster samaksāt 3000 dolāru katram par lūguma iesniegšanu, kas saturēja vairāk nekā divdesmit četras kļūdas, tostarp halucinētas lietas. Advokāti apgalvoja, ka iesniegtais bija nejaušs melnraksts. "Galīgajā" versijā joprojām bija pilns kļūdu. Tiesa atzina viņu skaidrojumus par neticamiem. Komentatori atzīmēja, ka sods bija viegls — 31 000 dolāru sods citā lietā labāk atspoguļo pašreizējo virzību. Tiesas zaudē pacietību. Sodi pieaug.

Kanādā Ko v. Li (2025 ONSC 2766) izveidoja šablonu tiesu reakcijām. Toronto advokāte iesniedza memorandu laulības lietā ar lietu atsaucēm, kas nebija atrodamas nevienā juridiskajā datubāzē. Viņas atzīšanās bija tieša: "Šie avoti tika izstrādāti, izmantojot mākslīgā intelekta darbinātu juridiskās izpētes rīku. Es pieļāvu nopietnu kļūdu, neveicot tiesu prakses verifikāciju." Tiesa ierosināja necieņas procesu, galu galā to izbeigusi ar nosacījumiem, tostarp tālākizglītības kursiem un klienta naudas atmaksu. Ontario tagad prasa juristiem apliecināt katras citētās atsauces autentiskumu saskaņā ar Noteikumu 4.06.1(2.1).

Austrālijā advokātam tika aizliegta neuzraudzīta prakse uz diviem gadiem par MI saistītiem pārkāpumiem. Modelis ir globāls: brīdinājumi, tad sankcijas, tad profesionālās sekas, tad — neizbēgami — civiltiesiskā atbildība.

Paralēla attīstība, kas ir pelnījusi uzmanību. Lietā Walters v. OpenAI Džordžijas tiesa nolēma, ka OpenAI nav atbildīgs, kad ChatGPT safabricē godu aizskarošu saturu par reālu personu, konstatējot, ka platformas brīdinājumi par iespējamām neprecizitātēm nozīmē, ka neviens saprātīgs lasītājs neinterpretētu izvadi kā faktu apgalvojumu. Nolēmums faktiski saka: MI uzņēmumi jūs brīdināja. Ja jūs paļāvāties uz neverificētu MI izvadi, tā ir jūsu problēma.

Šis formulējums tieši pārnesās uz juridisko praksi. MI piegādātāji iekļauj brīdinājumus. Ētikas noteikumi prasa verifikāciju. Tiesas uzliek sankcijas juristiem, nevis rīkiem. Visa atbildības struktūra pieņem, ka juristi izmantos neatkarīgu spriedumspēju — kas mūs noved pie fundamentālās problēmas.

Pat specializēti juridiskie MI rīki halucinē ar būtiskām likmēm. Stanford pētījums (Magesh et al., 2025) testēja specializētas juridiskās izpētes platformas. Vispārējas nozīmes lielie valodas modeļi halucinēja ar 58–88% likmi. Bet pat Lexis+ AI, labākais sniegums, uzrādīja aptuveni 17% kļūdu likmi. Viens no sešiem pieprasījumiem. Profesijai, kas prasa perfektu precizitāti atsaucēs, šī likme ir ārkārtēja. Neviens jurists nepieņemtu 17% kļūdu likmi no cilvēciska izpētes palīga.

Risinājums nav atrast "bez halucinācijām" rīku. Tāds neeksistē. Risinājums ir iestrādāt verifikāciju katrā darbplūsmā — nevis kā pēcdomu, bet kā strukturālu elementu tam, kā MI atbalstīts darbs tiek radīts.

---

Kompetences jautājums

Lūk paradokss halucināciju problēmas centrā: prasme, kas nepieciešama MI izvades verifikācijai, ir tā pati prasme, ko MI lietošana pakāpeniski erodē.

Iedomājieties ceturto gadu kolēģi, kas MI izmantojusi juridiskajai izpētei kopš pirmās prakses dienas. Viņa nekad nav pavadījusi veselu dienu juridiskajā bibliotēkā. Viņa nekad nav veidojusi izpētes ceļu no nulles — sākot ar sekundāru avotu, identificējot galvenās lietas, tās pilnībā izlasot, izsekojot atsauces uz priekšu un konstruējot argumentu no primārajiem materiāliem. Viņas izpētes process sākas ar vaicājumu un beidzas ar verifikācijas pārbaudi.

Tagad dodiet viņai MI memorandu ar pareizu atsauci uz reālu lietu, bet ar juridisku apgalvojumu, ko lieta faktiski neatbalsta. Trešā halucināciju kategorija — nepareizi attiecināts pamatojums. Lai to noķertu, viņai būtu jāizlasa citētais nolēmums, jāsaprot tā nolēmuma daļa un jānovērtē, vai attiecinātais apgalvojums ir patiesi pamatots. Tā nav verifikācijas prasme. Tā ir juridiskās analīzes prasme. Tā attīstās gadu gaitā, veicot to izpēti, ko tagad veic MI.

Biroji, kas izvairās no sankcijām, nav tikai tie ar labākām kontrolsarakstiem. Tie ir tie, kur juristiem ir saturiskās zināšanas, lai atpazītu, kad MI izvade ir nepareiza — kas nozīmē, ka tie ir biroji, kur juristi šīs zināšanas attīstīja pirms MI tās padarīja neobligātas.

Runāju ar vidēja izmēra ASV tiesvedības praksi, kurai ir nulle MI saistītu sankciju. Viņu protokols ir vienkāršs: katra atsauce tiek pārbaudīta no oriģinālajiem avotiem pirms izmantošanas, citāti tiek verificēti vārds pa vārdam, un otrs jurists parakstās zem MI atbalstītiem iesniegumiem. Taču atbildīgais partneris man teica, ka protokols nav tas, kas faktiski novērš kļūdas. "Protokols noķer vieglo. Grūto noķer tas, ka mūsu juristi zina tiesības pietiekami labi, lai pamanītu, kad kaut kas nesmaržo pareizi. Protokolā to neiekodēsi."

ES MI regulas 4. pants to netieši atzīst. "Pietiekama MI pratība" nav tikai zināšana, kā lietot rīku. Tā ir pietiekama jomas pārzināšana, lai izvērtētu, ko rīks rada. Halucināciju datubāze ir, ļoti reālā nozīmē, nepietiekamas MI pratības katalogs — juristu, kuri zināja, kā lietot rīku, bet nezināja, kā verificēt tā izvadi.

---

Ko darīt

1. Atveriet Charlotin datubāzi un pārskatiet to. Halucināciju lietu izsekotājs ir bezmaksas. Pavadiet trīsdesmit minūtes, pārskatot nesenās lietas savā jurisdikcijā un prakses jomā. Izpratne par to, kā citi ir tikuši sodīti, ir efektīvākā prevencija.

2. Ieviesiet trīs līmeņu verifikācijas protokolu. Jebkuram MI atbalstītam iesniegumam: (a) apstipriniet, ka atsauce eksistē oficiālajā ziņotājā, (b) verificējiet, ka tiešie citāti parādās vārds pa vārdam avotā, (c) izlasiet citētā nolēmuma faktisko nolēmuma daļu un apstipriniet, ka tā atbalsta apgalvojumu. Trešais līmenis ir vieta, kur notiek lielākā daļa kļūdu un tiek piemērota lielākā daļa sankciju.

3. Nekad neļaujiet MI verificēt savu izvadi. Ja lielajam valodas modelim jautāsiet, vai tā atsauces ir precīzas, tas tās pārliecinoši apstiprinās — pat ja tās ir safabricētas. Tiesa lietā Ko v. Li bija skaidra: "Advokāts nevar deleģēt profesionālo atbildību tērzēšanas robotam." Neatkarīga avotu apstiprināšana nav apspriežama.

4. Ieguldiet spriedumspējas attīstīšanā, nevis tikai procesos. Verifikācijas kontrolsaraksti noķer zināmus kļūdu veidus. Profesionālā spriedumspēja noķer visu pārējo. Nodrošiniet, lai jūsu jaunākie juristi veidotu saturiskās juridiskās zināšanas — caur rūpīgu lasīšanu, izpētes vingrinājumiem no nulles un mentoringu — nevis tikai apgūtu MI rīku lietošanu.

5. Dokumentējiet verifikācijas procedūras 4. panta atbilstībai. Eiropas birojiem jāpierāda, ka darbinieki, kas ievieš MI, ir ar "pietiekamu MI pratību." Dokumentēts verifikācijas protokols — kas apliecina juristu apmācību visu trīs halucināciju kategoriju identificēšanā — kalpo divkāršam mērķim: kvalitātes nodrošināšanai un regulatīvajai atbilstībai.

---

Ātrā lasīšana

• Charlotin MI halucināciju lietu datubāze — definitīvais izsekotājs, bezmaksas un regulāri atjaunināts, tagad aptverot 486+ lietas visā pasaulē.

• NPR: MyPillow advokāti sodīti par MI halucinācijām — 2025. gada jūlija sankcijas ar noderīgām detaļām par to, kā tiesas vērtē MI saistītu pārkāpumu.

• Stanford HAI: MI tiesā — etalona pētījums, kas uzrāda 17%+ halucināciju likmi pat specializētos juridiskajos MI rīkos, obligāta lasāmviela ikvienam, kas paļaujas uz šīm platformām.

• McCarthy Tetrault: Ko v. Li analīze — pamatīga analīze par Kanādas lietu, kas rezultējās Ontario jaunajā apliecinājuma prasībā.

• Eric Goldman: Walters v. OpenAI — nolēmums, kas faktiski pasargā MI uzņēmumus no atbildības par halucinācijām, atstājot visu atbildību cilvēciskajiem lietotājiem.

---

Viens jautājums pārdomām

Ja verifikācija prasa to pašu juridisko spriedumspēju, ko MI lietošana ir paredzēta papildināt, un ja šī spriedumspēja attīstās caur to pašu praksi, ko tagad veic MI — kurš būs kompetents verificēt MI izvadi pēc desmit gadiem?

---

TwinLadder Nedēļas Apskats | Izdevums #16 | 2025. gada septembris

Palīdzam Eiropas profesionāļiem veidot MI kompetenci caur godīgu izglītību.