W trwającym sporze sądowym pomiędzy Anthropic a największymi wydawcami muzycznymi prawnicy reprezentujący Anthropic zostali zmuszeni do oficjalnych przeprosin. Powód? Claude – ich własny chatbot oparty na sztucznej inteligencji – wygenerował fałszywy cytat prawniczy z nieistniejącym tytułem i fikcyjnymi autorami.
Co ciekawe, błąd ten nie został wykryty podczas ręcznej weryfikacji źródeł przez prawników Anthropic. Dopiero oskarżenie ze strony przedstawicieli Universal Music Group i innych wydawców muzycznych zmusiło firmę do przyznania się do pomyłki. Federalna sędzia Susan van Keulen zażądała oficjalnej odpowiedzi Anthropic na te zarzuty.
Halucynacje AI – rosnący problem w branży prawniczej
Takie „halucynacje” AI, czyli tworzenie nieistniejących faktów, są coraz częstszym problemem nie tylko w Stanach Zjednoczonych. W ostatnich miesiącach kilka kancelarii w Kalifornii zostało publicznie skrytykowanych za korzystanie z „lipnych” badań stworzonych przez sztuczną inteligencję. Nie był to też odosobniony przypadek – na początku roku podobny błąd popełnił australijski prawnik, korzystając z ChatGPT przy opracowywaniu dokumentów sądowych.
Warto tu zwrócić uwagę, że takie błędy nie zawsze są wynikiem złej woli. Antropic w swoim oświadczeniu podkreśla, że był to „uczciwy błąd cytowania, a nie celowa manipulacja”. Jednak niezależnie od intencji – skutki mogą być poważne, zwłaszcza jeśli chodzi o zaufanie do narzędzi AI w krytycznych obszarach życia.
AI w prawie – nadzieje, inwestycje i… ostrożność
Paradoksalnie, nawet głośne potknięcia sztucznej inteligencji nie studzą zapału inwestorów. Start-up Harvey, specjalizujący się w automatyzacji pracy prawników przy pomocy AI, prowadzi rozmowy na temat kolejnej rundy finansowania o wartości ponad 250 milionów dolarów, a jego wycena sięga już 5 miliardów.
Na rynku pojawia się coraz więcej narzędzi obiecujących przyspieszenie i automatyzację pracy prawników – od analizy dokumentów po przygotowywanie wniosków sądowych. Jednocześnie rośnie świadomość, że bez ludzkiej kontroli i skrupulatnej weryfikacji, AI potrafi popełnić kosztowny błąd.
Czy AI zastąpi prawników? Przyszłość (jeszcze) nie jest przesądzona
Obecne wydarzenia pokazują, że choć AI staje się coraz bardziej zaawansowana, nie jest wolna od wad. Przypadki, takie jak ten z Anthropic i Claude’em, są ważnym przypomnieniem, że zaufanie do narzędzi AI wymaga nie tylko entuzjazmu, ale i ostrożności.
Zamiast traktować AI jako nieomylnego eksperta, warto postrzegać ją jako wsparcie – szybkie, wydajne, ale jednak wymagające nadzoru ze strony człowieka. Przyszłość prawa z pewnością będzie coraz bardziej „inteligentna”, ale ludzki czynnik przez długi czas pozostanie niezbędny.
Źródło: TechCrunch | Reuters
Photo by Tingey Injury Law Firm on Unsplash
