W jednym zdaniu
Kammergericht w Berlinie upomniał adwokatkę, ponieważ jej pismo procesowe przywoływało dwa orzeczenia sądowe, które nie istnieją — przypuszczalnie dzieło „fantazjującej” AI — i tym samym jasno wskazał: korzystać z AI wolno, przejmować cytaty AI bez weryfikacji już nie.
Sprawa: dwa przypisy, których nigdy nie było
W sprawie z zakresu prawa rodzinnego (postępowanie w trybie pilnym z pomocą prawną z urzędu) pismo procesowe adwokatki powoływało się na postanowienie Federalnego Trybunału Sprawiedliwości (BGH) „z 14 listopada 2007 r. – XII ZB 183/07” oraz na orzeczenie Wyższego Sądu Krajowego w Brandenburgii. Żadne z nich nie istnieje. Kammergericht upomniał adwokatkę postanowieniem z 20 listopada 2025 r. (sygn. 17 WF 144/25); o sprawie donoszą między innymi beck-aktuell oraz niemiecka Federalna Izba Adwokacka (BRAK). Kluczowy przekaz sądu jest zaskakująco wyważony: adwokaci mogą korzystać z AI — muszą jednak sprawdzić każdy cytat z orzecznictwa, zanim opuści on kancelarię. To od dawna nie jest już odosobniony przypadek: na świecie udokumentowano około 1600 przypadków halucynacji w 35 krajach, a sądy amerykańskie już nałożyły sankcje.
Dlaczego modele językowe zmyślają orzeczenia
Model językowy nie jest bazą danych, lecz maszyną do uzupełniania wzorców. Nauczył się, jak wygląda sygnatura BGH, który senat brzmi wiarygodnie w sprawach rodzinnych i jak formułuje się przypis. Gdy brakuje prawdziwego orzeczenia, generuje takie, które sprawia wrażenie formalnie doskonałego — sąd, data, sygnatura, wszystko się zgadza. To właśnie ta formalna doskonałość czyni halucynacje tak zdradliwymi: nie rzucają się w oczy przy pobieżnym czytaniu, lecz dopiero przy sprawdzaniu. Kto nie sprawdza, niczego nie zauważa.
Prawo zawodowe: odpowiedzialność pozostaje po stronie człowieka
Kammergericht formułuje to, co i tak obowiązuje na gruncie zasad wykonywania zawodu: kto odpowiada za pismo procesowe, odpowiada za każdy przypis w nim zawarty — niezależnie od tego, jakie narzędzie dostarczyło projektu. Pokrywa się to z filozofią naszego produktu: AI dostarcza pracy wstępnej i ocen, a sprawdzanie i decydowanie należy do ludzi. Narzędzie, które domagałoby się ślepego zaufania, byłoby w tym zawodzie narzędziem niewłaściwym.
Jak SmartLegalPro rozwiązuje problem u źródła
Zmyślone cytaty powstają tam, gdzie model formułuje swobodnie, choć w rzeczywistości należałoby sprawdzić. Dlatego działamy w trzech punktach:
- Rechtsbibliothek zamiast pamięci modelu: nasz graf wiedzy przechowuje prawdziwe normy i orzeczenia z prawdziwymi przypisami. Cytaty są weryfikowane wobec tego zasobu, a nie „przypominane” z modelu.
- Wskazanie źródeł: tam, gdzie AI prowadzi kwerendę, podaje swoje źródła — i uczciwie oznacza, co jest źródłem urzędowym, a co jedynie wyszukiwaniem w sieci.
- Druga kontrola terminów: przy terminach równolegle przelicza je drugie, niezależne sprawdzenie — właśnie dlatego, że liczby i daty należą do najkosztowniejszych halucynacji.
Także to nie zastępuje weryfikacji dokonywanej przez adwokata. Przyspiesza ją jednak i daje jej solidny punkt odniesienia do sprawdzenia.
Dla konsumentów: „ChatGPT tak powiedział” to nie argument
To, co dla adwokatów jest ryzykiem zawodowym, dla laików często pozostaje niewidoczne: chatbot, który zmyśla przepis, termin lub wyrok, brzmi równie przekonująco jak ten, który ma rację. Kto na tej podstawie dopuści do upływu terminu lub zrezygnuje z roszczenia, ma realny problem. Dlatego nasza wstępna ocena jest świadomie ujęta jako ocena — a gdy sprawa robi się poważna, droga prowadzi wprost do prawdziwych adwokatów, którzy mogą wziąć odpowiedzialność za sprawę.
Pięć punktów, zanim cytat z AI trafi do pisma procesowego
- Sprawdzić każdy przypis w oryginale: sąd, datę, sygnaturę, tezę.
- Istnienie nie wystarcza — sprawdzić, czy orzeczenie rzeczywiście potwierdza to, na co jest powoływane.
- Kwerendę AI przyjmować wyłącznie ze wskazanymi źródłami, nigdy na podstawie samych twierdzeń.
- Liczby, terminy i kwoty zasadniczo przeliczać niezależnie.
- W razie wątpliwości pominąć: brakujący cytat jest niezręczny, zmyślony jest ryzykiem zawodowym.
