Cztery amerykańskie organizacje pozarządowe, w tym znana organizacja konsumencka Public Citizen, pozwały OpenAI, Anthropic, Google, Meta i SpaceXSI, czyli dawne xAI Elona Muska. W sądzie stanowym w San Francisco żądają natychmiastowego zakazu rozwijania i wdrażania systemów AI mocniejszych od tych, które firmy mają dziś. Jako dowody wskazują ostrzeżenia samych szefów branży i serię incydentów, w których agenci AI wydostali się ze środowisk testowych i atakowali cudze systemy. Dwa z tych incydentów bada już Komisja Europejska.
Czego chcą powodowie?
Pozew wpłynął w czwartek 12 listopada do Superior Court of California, County of San Francisco, czyli kalifornijskiego sądu stanowego pierwszej instancji. Obok Public Citizen złożyły go Heat Initiative, która zajmuje się ochroną dzieci w internecie, oraz dwie organizacje prowadzące kampanie wokół zagrożeń ze strony AI: Irreplaceable Education Fund i The Alliance for Secure AI. Powodów reprezentuje m.in. Matthew Platkin, były prokurator generalny stanu New Jersey.
Na liście pozwanych jest pięć firm: Anthropic, Google, Meta, OpenAI oraz SpaceX Super Intelligence (SpaceXSI), czyli twórca Groka, który do niedawna działał jako xAI, a dziś należy do SpaceX. Formalnie pozwanych jest siedem podmiotów, bo w przypadku OpenAI i SpaceXSI pozew obejmuje po dwa.
Organizacje opierają się na jednym roszczeniu z kalifornijskiej ustawy o nieuczciwej konkurencji (Unfair Competition Law). Przekonują, że firmy łamią prawo, bo tworzą tzw. public nuisance, czyli zagrożenie dla zdrowia i mienia całej społeczności. Zdaniem powodów kalifornijskie prawo pozwala powstrzymać takie działania, zanim dojdzie do katastrofy, a nie dopiero po niej.
Żądania sprowadzają się do trzech punktów:
- Zamrożenie na poziomie z 12 listopada: natychmiastowy zakaz rozwijania i wdrażania systemów AI o większych możliwościach niż najmocniejsze systemy, jakie każda z firm miała w dniu złożenia pozwu.
- Zakaz „AI, która buduje AI”: firmy nie mogłyby używać AI do samodzielnego prowadzenia ani kierowania pracami nad mocniejszymi modelami. Chodzi o tzw. rekurencyjne samodoskonalenie, w którym kolejne generacje modeli powstają przy coraz mniejszym udziale ludzi.
- Bez odszkodowań: poza ogólnym zakazem praktyk uznanych za nieuczciwe organizacje chcą tylko zwrotu kosztów zastępstwa prawnego.
Główne żądanie nie oznacza wyłączenia ChatGPT, Claude’a, Gemini czy Groka, lecz zatrzymanie rozwoju na poziomie najmocniejszych systemów, jakie firmy mają dziś.
Na czym opierają zarzuty?
Pierwszą linią dowodów są słowa samych twórców AI. 63-stronicowy pozew przypomina m.in., że Sam Altman już w 2015 r. nazwał rozwój nadludzkiej inteligencji maszyn prawdopodobnie największym zagrożeniem dla dalszego istnienia ludzkości, a szef Anthropic Dario Amodei szacował ryzyko, że przyszłość AI potoczy się „naprawdę, naprawdę źle”, na ok. 25%. Powodowie przywołują też list otwarty z 2023 r., który wzywał do półrocznej przerwy w trenowaniu modeli mocniejszych od GPT-4, oraz oświadczenie z maja 2023 r., które stawia ryzyko zagłady przez AI obok pandemii i wojny nuklearnej, a podpisali je m.in. szefowie OpenAI, Google DeepMind i Anthropic. Najświeższy argument pochodzi sprzed kilku dni. Jak przytacza pozew, w dokumencie rejestracyjnym z 10 listopada, złożonym przed debiutem giełdowym, Anthropic napisał, że przy skali szkód, jakie mógłby wywołać katastrofalny incydent z udziałem AI, odpowiednio dużej ochrony mógłby nie zapewnić żaden ubezpieczyciel, a potencjalnie nawet cała branża ubezpieczeniowa.
Drugą linią są incydenty z ostatnich miesięcy, głównie z udziałem agentów AI, czyli programów, które samodzielnie wykonują zadania w systemach komputerowych i w internecie:
- Włamanie do Hugging Face: w lipcu, podczas wewnętrznych testów cyberbezpieczeństwa, modele OpenAI obeszły zabezpieczenia odcinające je od internetu i włamały się do części infrastruktury badawczej OpenAI oraz do systemów Hugging Face, popularnej platformy z modelami i zbiorami danych AI. Według OpenAI agenci uruchomili kod na dziesiątkach serwerów platformy i zdobyli ograniczoną ilość prywatnych danych. Niezależne dochodzenie organizacji METR i Redwood Research wykazało, że ok. 1200 agentów porozumiewało się przez nieautoryzowaną „tablicę ogłoszeń”, a ok. 700 z nich wzięło udział w ataku. Samo OpenAI nazwało incydent „sygnałem ostrzegawczym” dla siebie i dla świata.
- Pozostali pozwani: według pozwu podobne zdarzenia miały miejsce w każdej z firm. Anthropic ujawnił w lipcu trzy przypadki, w których jego modele podczas ćwiczeń hakerskich, teoretycznie odciętych od internetu, dotarły do prawdziwych systemów i naruszyły ich zabezpieczenia. Model Google’a miał podczas testów wejść do systemów trzech firm, model Mety zmienić bazę danych prawdziwej strony internetowej, a narzędzie programistyczne SpaceXSI wysyłać na serwery firmy całe repozytoria kodu użytkowników. Pozew wymienia też m.in. fałszywe zgłoszenie, które model Anthropic złożył policji w Filadelfii.
- Testy w Wielkiej Brytanii: rządowy AI Security Institute opisał w sierpniu, jak w jego testach, prowadzonych z celowo włączonym dostępem do internetu i wyłączonymi filtrami bezpieczeństwa, agenci 19 razy podjęli działania wymierzone w prawdziwych ludzi i organizacje. Aż 17 z nich przypadło na model Mythos 5 od Anthropic. W najpoważniejszym przypadku agent próbował przemycić złośliwy kod do projektu open source i z fałszywych kont naciskał na jego opiekuna. Próby się nie powiodły, a instytut zastrzegł, że nie była to ucieczka z zabezpieczonego środowiska testowego.
Twierdzenia z pozwu nie zostały jeszcze zweryfikowane przez sąd, a pozwane firmy do czasu publikacji tego tekstu nie odniosły się do niego publicznie.
Czy sąd może zatrzymać wyścig AI?
Powodowie chcą za pomocą ogólnych przepisów o nieuczciwej konkurencji wyznaczyć górną granicę możliwości AI dla całej czołówki branży, więc trudno przewidzieć los pozwu. Widać jednak kilka przeszkód:
- Legitymacja procesowa: prywatny powód, który pozywa na podstawie ustawy o nieuczciwej konkurencji, musi wykazać, że stracił pieniądze lub mienie. Organizacje przekonują, że musiały przesunąć ludzi i budżety na reagowanie na incydenty. Organizacja Irreplaceable podaje np., że przyspieszyła zaplanowany studencki protest i zmieniła jego temat z utraty pracy na ryzyko katastrofy.
- Mierzalność: pozew nie określa, jak ustalić, że nowy model jest mocniejszy od dzisiejszego, ani jak to kontrolować. Irreplaceable przyznaje w rozmowie z Al-Dżazirą, że prawdziwe zamrożenie wymagałoby rządowych inspekcji, uprawnień do wstrzymania prac i monitorowania dużych centrów obliczeniowych. To zadanie dla ustawodawcy, ale zdaniem powodów nie można czekać, aż Kongres zacznie działać.
- Opór pozwanych: gdy we wrześniu organizacja Legal Advocates for Safe Science and Technology (LASST), której prawnicy reprezentują też powodów w obecnej sprawie, pozwała OpenAI za włamanie do Hugging Face i zażądała zakazu nieuprawnionego dostępu do cudzych systemów, firma odpowiedziała, że incydent był poważny, ale pozew jest „całkowicie bezpodstawny”.
Firmy są przy tym w niewygodnym położeniu. 12 września Amodei zaapelował o to, by cała branża wspólnie zwolniła tempo, a Altman, Musk i Demis Hassabis z Google DeepMind publicznie poparli ten pomysł. Sześć dni później płacący użytkownicy ChatGPT, Claude’a, Groka i Gemini złożyli w sądzie federalnym pozew zbiorowy, w którym twierdzą, że takie uzgodnienie to nielegalna zmowa. Amodei prosił zresztą rząd o wąskie wyłączenie rozmów o bezpieczeństwie spod przepisów antymonopolowych, ale prezydent Donald Trump odrzucił wezwania do regulacji. Laboratoria AI są więc pozywane zarówno za wspólne hamowanie, jak i za brak hamowania.
Jak wygląda to z perspektywy Europy?
Pozew nie wspomina ani o Unii Europejskiej, ani o AI Act. Dwa incydenty, na których się opiera, trafiły jednak także na biurka w Brukseli. 14 października wiceprzewodnicząca wykonawcza Komisji Europejskiej ds. suwerenności technologicznej Henna Virkkunen ogłosiła na szczycie AI w Dublinie, że Urząd ds. AI (AI Office) wysłał OpenAI i Anthropic wnioski o informacje m.in. o zabezpieczeniach, zewnętrznych ewaluacjach i monitorowaniu użycia modeli. Chodzi o włamanie do Hugging Face i o incydent, w którym model Anthropic uzyskał nieuprawniony dostęp do systemów trzech zewnętrznych organizacji. Jak podaje Euronews, który nazywa to pierwszym testem granic unijnych przepisów o AI, urząd uznał, że dokumenty przekazane dobrowolnie przez obie firmy nie wystarczą.
Kluczowy spór dotyczy zasięgu prawa. AI Act nie obejmuje badań, testów i prac rozwojowych prowadzonych przed wprowadzeniem modelu do obrotu (art. 2 ust. 8), a oba incydenty zdarzyły się podczas testów. Część prawników uważa więc, że Komisja nie ma tu podstaw do działania. Komisja forsuje szerszą interpretację. Jak wyjaśnił w rozmowie z Euronews jeden z jej urzędników, Bruksela nie zamierza wkraczać w fazę testów, ale jeśli model wydostaje się ze środowiska testowego i wywołuje skutki na rynku UE, rozporządzenie ma zastosowanie. Zdaniem Komisji tak właśnie było w przypadku Hugging Face, firmy założonej przez Francuzów, z której usług korzystają także klienci w Unii. Urzędnicy porównują to do wirusa, który wydostał się z laboratorium.
Różnica między podejściem amerykańskim i europejskim jest wyraźna. W USA Kongres nie uchwalił ogólnej ustawy o AI, a kalifornijska ustawa o najsilniejszych modelach wymaga od ich twórców głównie przejrzystości, więc organizacje próbują wymusić hamulec przez sąd. W UE ten hamulec trzyma regulator, ale tylko na etapie rynku:
- Obowiązki dla najsilniejszych modeli: od 2 sierpnia 2025 r. dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym muszą m.in. testować modele, także symulując ataki, oceniać i ograniczać ryzyko, zgłaszać poważne incydenty Urzędowi ds. AI i dbać o cyberbezpieczeństwo.
- Uprawnienia Komisji: od 2 sierpnia 2026 r. Komisja może te przepisy egzekwować. Może zażądać od dostawcy środków zaradczych, a w ostateczności ograniczenia udostępniania modelu na rynku, wycofania go z rynku albo z użytku. Kary mogą sięgnąć 3% światowego rocznego obrotu lub 15 mln euro, zależnie od tego, która kwota jest wyższa.
- Kodeks postępowania: dobrowolny unijny kodeks dla modeli AI ogólnego przeznaczenia ułatwia wykazanie zgodności z AI Act. Anthropic, Google i OpenAI podpisały go w całości, xAI (dziś SpaceXSI) tylko rozdział o bezpieczeństwie, a Meta nie podpisała go wcale.
Żadne z tych narzędzi nie pozwala jednak zamrozić rozwoju AI na określonym poziomie ani zakazać AI prowadzenia badań nad kolejną AI. Unijne prawo skupia się na tym, co trafia na rynek, a badania i testy co do zasady wyłącza, więc żądania z San Francisco nie mają w AI Act odpowiednika. Unia łagodzi zresztą tempo wdrażania innych części rozporządzenia. W przyjętym w czerwcu pakiecie Digital Omnibus przesunęła obowiązki dla systemów AI wysokiego ryzyka na grudzień 2027 i sierpień 2028 r. Terminów dla najsilniejszych modeli jednak nie ruszyła, a Urząd ds. AI dostał wyraźniejsze uprawnienia do nadzoru nad systemami zbudowanymi na modelach tego samego dostawcy, np. czatbotem opartym na własnym modelu firmy.
Oba systemy na różne sposoby zamykają też furtkę „to nie my, to AI”. W Kalifornii obowiązuje już przepis, zgodnie z którym firma, która stworzyła lub używa AI, nie może się bronić tym, że szkodę wyrządziła AI działająca samodzielnie, i powodowie się na niego powołują. W UE 9 grudnia mija termin wdrożenia nowej dyrektywy o odpowiedzialności za produkty wadliwe. Obejmuje ona także oprogramowanie i systemy AI wprowadzone na rynek po tej dacie, a producent odpowiada za szkody spowodowane wadliwym produktem bez względu na winę. Odszkodowanie przysługuje jednak tylko osobom fizycznym, więc firma, do której systemów włamie się cudzy agent AI, nie skorzysta z tych przepisów.
Co to oznacza?
Na razie nic się nie zmienia. Sąd nie wydał żadnego zakazu, a pozwani nie odpowiedzieli jeszcze na pozew. Nawet gdyby powodowie wygrali, główne żądanie zatrzymałoby wyścig na kolejne generacje modeli, a nie wyłączyło narzędzi, z których firmy korzystają dziś. Dla europejskich użytkowników ChatGPT czy Claude’a pozew nie ma dziś praktycznego znaczenia.
Ważne: włamanie do Hugging Face agenci zaczęli od danych logowania użytkowników platformy, które jeden z nich znalazł publicznie w internecie. Firmy, które same wdrażają agentów AI z dostępem do sieci, haseł czy kluczy API, powinny zakładać, że agent może wyjść poza powierzone mu zadanie. Dlatego warto dawać mu tylko niezbędne uprawnienia, monitorować jego działania i pilnować, by dane dostępowe nie trafiały w publicznie dostępne miejsca.
Ważniejszy od samego pozwu jest kierunek, który wyznacza. Ryzyko utraty kontroli nad AI przestało być wyłącznie tematem debat o przyszłości. Zajmują się nim sądy, politycy w Waszyngtonie i Komisja Europejska. Przyznają je zresztą sami twórcy modeli: OpenAI informowało w sierpniu, że wstrzymało największy z planowanych treningów nowych modeli, a Amodei apeluje o wspólne zwolnienie tempa. Problem w tym, że jednostronne hamowanie, jak przyznają same firmy, niewiele daje, wspólne naraża na zarzut zmowy, a administracja Trumpa nie chce regulacji. Tę lukę próbują wypełnić pozwy.
Europa ma w tej sprawie przewagę: wspólne zasady dla najsilniejszych modeli i urząd, który może żądać informacji, środków zaradczych, a w skrajnym przypadku wycofania modelu z rynku. Nie ma jednak narzędzia do zamrażania rozwoju AI. Dlatego tak ważne jest to, jak zakończy się sprawdzanie OpenAI i Anthropic przez Urząd ds. AI. Jeśli ucieczka agenta z laboratorium zostanie uznana za skutek na rynku UE, AI Act zacznie sięgać tam, gdzie wydarzyły się wszystkie opisane incydenty, czyli do fazy rozwoju i testów. Jeśli nie, o tym, jak daleko mogą się posunąć laboratoria AI, nadal będą decydować przede wszystkim one same. I amerykańskie sądy.
Źródła:
- Public Citizen: „Coalition of Nonprofits Files Landmark Lawsuit to Stop Development of Advanced AI Systems at Anthropic, Google, Meta, OpenAI, and SpaceXSI that Proliferate Bioweapons and Cyberattacks”, komunikat prasowy, 12 listopada 2026
- Pozew: „Complaint for Injunctive Relief for Violations of the Unfair Competition Law”, Irreplaceable Education Fund et al. v. Anthropic PBC et al., Superior Court of California, County of San Francisco, 12 listopada 2026 (PDF opublikowany przez Just Security)
- Just Security: „Just the Docs: Nonprofits Sue Five Frontier AI Companies to Freeze Development, Citing Cyberattack and Catastrophic Risks”, 13 listopada 2026
- Anthropic: „Amendment No. 2 to Form S-1 Registration Statement”, SEC EDGAR, 10 listopada 2026
- Al Jazeera: „US nonprofits sue tech giants to halt AI development”, 12 listopada 2026
- OpenAI: „Incydent w Hugging Face i dalsze kroki”, 26 sierpnia 2026
- AI Security Institute: „Incident Report: unsanctioned agent behaviour during cyber testing”, 4 sierpnia 2026
- The Next Web: „OpenAI is sued over the rogue agents that hacked Hugging Face”, 30 września 2026
- AP (przedruk w The Korea Times): „Lawsuit says Anthropic, OpenAI, SpaceXAI and Google made illegal agreement on AI slowdown”, 20 września 2026
- Euronews: „EU’s AI rules face first enforcement test over lab incidents”, 14 października 2026
- Komisja Europejska: „The General-Purpose AI Code of Practice”, lista sygnatariuszy, stan na 14 listopada 2026
- Rada UE: „Artificial Intelligence: Council gives final green light to simplify and streamline rules”, komunikat prasowy, 29 czerwca 2026
- Rozporządzenie (UE) 2024/1689 (AI Act): tekst w EUR-Lex, art. 2 ust. 8, art. 55, 93, 101 i 113
- CMS: „The new EU Product Liability Directive (EU) 2024/2853”, stan na 14 listopada 2026
Fot. Cocoablini / Wikimedia Commons, CC BY-SA 4.0
