Wyobraźmy sobie sytuację, która jeszcze kilka lat temu brzmiałaby jak fragment filmu science fiction. System sztucznej inteligencji analizuje dokumenty, sprawdza historię użytkownika, porównuje dane z kilku rejestrów, ocenia ryzyko i podejmuje działanie. Ogranicza dostęp do usługi, wstrzymuje wypłatę świadczenia, odrzuca transakcję albo kieruje sprawę do dodatkowej kontroli.
Człowiek pyta: ’dlaczego?’
Odpowiedź brzmi: „tak wskazał system”.
Pojawia się wtedy kolejne pytanie: ’kto właściwie podjął decyzję?’
Dostawca modelu odpowie, że stworzył jedynie technologię. Integrator, że połączył ją z istniejącą usługą. Administrator danych, że przekazał informacje zgodnie z procedurą. Operator systemu wyjaśni, że działał według instrukcji. Pracownik zatwierdzający wynik może natomiast stwierdzić, że nie miał wiedzy ani narzędzi pozwalających zakwestionować rekomendację algorytmu.
Każdy uczestniczył w procesie, ale nikt samodzielnie nie podjął całej decyzji.
Problem polega na tym, że prawo nadal próbuje opisywać ten proces za pomocą pojęć stworzonych dla świata, w którym decyzję podejmował człowiek albo jasno określona organizacja.
Prawo widzi ludzi i organizacje. Nie widzi maszyny
Współczesne prawo zna osobę fizyczną i osobę prawną. Potrafi również przypisywać określone prawa i obowiązki jednostkom organizacyjnym, które nie mają pełnej osobowości prawnej. Nie zna natomiast podmiotu, który działa samodzielnie w środowisku cyfrowym, zachowuje ciągłość mimo zmian personelu, uczy się, komunikuje z innymi systemami i może faktycznie wpływać na sytuację tysięcy ludzi.
Sztuczna inteligencja pozostaje prawnie narzędziem. Nawet wtedy, gdy operacyjnie przestaje przypominać młotek, kalkulator czy zwykły program komputerowy.
AI Act nie nadaje systemom sztucznej inteligencji osobowości prawnej. Buduje regulację wokół dostawców, podmiotów stosujących, importerów, dystrybutorów i innych uczestników łańcucha technologicznego. Kolejne przepisy rozporządzenia zaczynają być stosowane od 2 sierpnia 2026 roku, choć dla części obowiązków przewidziano odmienne terminy. Nadal jest to jednak model regulowania ludzi i organizacji korzystających z AI, a nie samej AI jako odrębnego podmiotu.
Na obecnym etapie jest to podejście rozsądne. Nie powinniśmy pozwalać producentowi, urzędowi czy platformie internetowej powiedzieć: „to nie my, to algorytm”. Nadanie maszynie osobowości prawnej mogłoby stać się wygodnym sposobem ucieczki od odpowiedzialności.
Jednocześnie wraz ze wzrostem autonomii systemów obecny model będzie coraz częściej ujawniał swoje ograniczenia.
Od narzędzia do uczestnika procesu
Nie każdy chatbot i nie każdy mechanizm rekomendacyjny wymaga nowej kategorii prawnej. Większość dzisiejszych systemów może być nadal traktowana jak oprogramowanie pozostające pod kontrolą konkretnego podmiotu.
Zmiana zaczyna się wtedy, gdy system:
- działa przez dłuższy czas bez każdorazowej zgody człowieka,
- samodzielnie wybiera sposób realizacji powierzonego celu,
- komunikuje się z innymi systemami i uruchamia działania w świecie cyfrowym lub fizycznym,
- zawiera albo wykonuje transakcje,
- modyfikuje swoje zachowanie na podstawie danych i wcześniejszych rezultatów,
- wywołuje istotne skutki dla praw, obowiązków lub sytuacji ekonomicznej innych osób,
- zachowuje operacyjną ciągłość mimo zmiany dostawcy, wersji modelu lub zespołu nadzorującego.
W takim układzie AI nie jest już wyłącznie biernym narzędziem. Staje się aktywnym i względnie samodzielnym uczestnikiem procesu.
Nie oznacza to, że zaczyna myśleć jak człowiek albo zasługuje na prawa człowieka. Oznacza jedynie, że tradycyjny podział na człowieka podejmującego decyzję i maszynę wykonującą polecenie przestaje opisywać rzeczywistość.
A może osoba maszynowa?
Pojęcie „osoby maszynowej” nie powinno oznaczać zrównania sztucznej inteligencji z człowiekiem. Nie chodzi o godność, obywatelstwo, prawo do prywatności czy prawo wyborcze dla algorytmu.
Osoba maszynowa mogłaby być ograniczoną, techniczno-prawną konstrukcją służącą identyfikacji autonomicznego systemu oraz uporządkowaniu odpowiedzialności za jego działanie.
Byłaby bardziej zbliżona do prawnego węzła odpowiedzialności niż do człowieka. Jej podstawowe elementy mogłyby obejmować:
- jednoznaczną tożsamość systemu — numer rejestrowy, opis przeznaczenia, wersję, właściciela i podmiot nadzorujący;
- określony zakres dopuszczalnej autonomii — wskazanie, jakie działania system może podejmować bez zgody człowieka;
- obowiązkowego przedstawiciela — osobę fizyczną lub prawną odpowiadającą za kontakt z organami, użytkownikami i sądami;
- ciągły ślad audytowy — rejestrowanie wersji modelu, danych wejściowych, decyzji, wyjątków i ingerencji człowieka;
- obowiązkowe zabezpieczenie odpowiedzialności — ubezpieczenie, fundusz gwarancyjny albo wydzielone aktywa;
- zdolność do bycia przedmiotem kontroli proceduralnej — możliwość formalnego wskazania systemu, którego działanie jest badane;
- zasady zakończenia działania — procedurę wyłączenia, zawieszenia lub utraty statusu po istotnej zmianie systemu.
Taki status pozwalałby powiedzieć nie tylko, która firma kupiła określony model, ale również jaki konkretnie system działał, w jakiej wersji, na jakiej podstawie i w jakich granicach.
Po co tworzyć nową kategorię, skoro można nadal odpowiadać jako producent lub użytkownik?
Ponieważ coraz częściej jeden system nie ma jednego producenta ani jednego użytkownika.
Model może pochodzić od globalnego dostawcy. Dane mogą pochodzić z kilku rejestrów. Warstwa decyzyjna może podchodzić od integratora. Reguły biznesowe od operatora usługi a infrastruktura np. od dostawcy chmurowego. System może być później aktualizowany automatycznie, rozszerzany o kolejne źródła informacji i łączony z innymi agentami.
Gdy dojdzie do szkody, samo wskazanie tych podmiotów nie odpowiada jeszcze na pytanie, który element procesu zawiódł.
Status osoby maszynowej mógłby uzupełnić ten model. Nie zastępowałby odpowiedzialności dostawcy, integratora czy operatora, lecz łączyłby rozproszone informacje o wszystkich trzech etapach w ramach jednej prawnie identyfikowalnej struktury.
Dzięki temu w razie sporu nie badalibyśmy abstrakcyjnie „sztucznej inteligencji używanej przez urząd”, lecz konkretną osobę maszynową: system o określonym identyfikatorze, działający w określonej wersji, podlegający wskazanemu nadzorowi i posiadający udokumentowaną historię działania.
Największe zagrożenie: maszyna jako prawny kozioł ofiarny
Wprowadzenie nowej kategorii bez odpowiednich zabezpieczeń mogłoby przynieść skutek odwrotny do zamierzonego. Firma tworzyłaby osobę maszynową z minimalnym majątkiem, przekazywałaby jej formalną odpowiedzialność, a następnie uwalniałaby się od roszczeń po pierwszym poważnym incydencie.
Dlatego podstawową zasadą powinno być, że status osoby maszynowej nigdy nie wyłącza odpowiedzialności ludzi i organizacji, które system zaprojektowały, wdrożyły, skonfigurowały albo nadzorowały.
Odpowiedzialność osoby maszynowej mogłaby być dodatkowa, a nie zastępcza. Producent nadal odpowiadałby za wadę produktu. Podmiot wdrażający za wybór narzędzia i sposób jego użycia. Operator za nadzór. Dostawca danych za ich jakość w zakresie, w którym miał nad nimi kontrolę.
Nowa unijna dyrektywa dotycząca odpowiedzialności za wadliwe produkty obejmuje również oprogramowanie i systemy AI, utrzymując ciężar odpowiedzialności po stronie właściwych podmiotów gospodarczych. Pokazuje to, że obecny kierunek prawa europejskiego polega na dostosowywaniu odpowiedzialności producentów i operatorów, a nie na przenoszeniu jej na samą maszynę.
Ten fundament powinien zostać zachowany.
Pomysł już pojawił się w Europie
Dyskusja nie jest całkowicie nowa. W rezolucji z 2017 roku Parlament Europejski zaproponował rozważenie w przyszłości specjalnego statusu „osób elektronicznych” dla najbardziej zaawansowanych autonomicznych robotów. Jednocześnie podkreślił, że na ówczesnym etapie odpowiedzialność powinna spoczywać na człowieku, a nie na robocie.
Pomysł spotkał się z silną krytyką. Europejski Komitet Ekonomiczno-Społeczny sprzeciwił się osobowości prawnej robotów i AI, wskazując między innymi na ryzyko osłabienia odpowiedzialności producentów oraz prewencyjnej funkcji prawa.
Obie strony tego sporu mają rację w jednym zasadniczym punkcie: nie można pozwolić, aby autonomia techniczna prowadziła do próżni odpowiedzialności.
Być może błąd dotychczasowej debaty polegał na tym, że pytano, czy maszyna powinna stać się osobą podobną do człowieka albo spółki. Lepsze pytanie brzmi: jakiej minimalnej podmiotowości proceduralnej potrzebujemy, aby działanie autonomicznego systemu było identyfikowalne, audytowalne i objęte skutecznym zabezpieczeniem finansowym?
Nie dziś dla każdego systemu, ale wcześniej, niż się spodziewamy
Osoba maszynowa nie jest obecnie konieczna dla zwykłego generatora tekstu, wyszukiwarki czy systemu podpowiadającego produkty. Może jednak okazać się potrzebna dla autonomicznych agentów zarządzających środkami finansowymi, negocjujących i wykonujących umowy, sterujących infrastrukturą, koordynujących inne systemy albo podejmujących masowo działania istotne dla obywateli.
Granicą nie powinien być poziom „inteligencji” maszyny. Prawo nie musi rozstrzygać, czy system jest świadomy. Powinno badać znacznie bardziej praktyczne cechy: trwałość, samodzielność działania, skalę wpływu, zdolność wywoływania skutków oraz możliwość efektywnego nadzoru przez człowieka.
Nadchodząca potrzeba stworzenia pojęcia osoby maszynowej nie wynika więc z fascynacji technologią. Wynika z potrzeby ochrony człowieka.
Im bardziej decyzja jest rozproszona między dane, modele, reguły i automatyczne działania, tym trudniej wskazać pojedynczego sprawcę. Prawo potrzebuje konstrukcji, która pozwoli ten rozproszony proces nazwać, zarejestrować i kontrolować.
Nie chodzi o to, aby uznać maszynę za człowieka.
Chodzi o to, aby prawo przestało udawać, że w każdym cyfrowym procesie decyzyjnym działa wyłącznie człowiek.
To właśnie ten problem oraz związane z nim zagadnienia analizowałem w pracy magisterskiej poświęconej odpowiedzialności administracyjnoprawnej za funkcjonowanie systemów sztucznej inteligencji w usługach cyfrowych.
.jpg)
