Debata o świadomości AI to pułapka, która chroni firmy przed odpowiedzialnością

Obecna retoryka dotycząca sztucznej inteligencji często przedstawia ją jako systemy „niekontrolowane”, „zbuntowane” lub „autonomiczne”, sugerując, że są one świadome, a nawet wrogie wobec swoich twórców. Liderzy branży technologicznej, tacy jak Demis Hassabis, Dario Amodei i Sam Altman, opowiadają się za regulacjami dla tych rzekomo „nadludzkich” systemów. Jednocześnie inna grupa, składająca się z organizacji politycznych i filozofów akademickich związanych z ruchem efektywnego altruizmu, debatuje nad tym, czy ludzkość ma moralne prawo do zarządzania tak zaawansowaną AI.

Pułapka narracyjna i unikanie odpowiedzialności

Analiza tych pozornie sprzecznych stanowisk ujawnia wspólny mianownik: dążenie do przedstawienia systemów AI jako tak zaawansowanych i zdolnych, że żadna jednostka, czy to ludzka, czy korporacyjna, nie mogłaby być odpowiedzialna za ich działania. Chociaż perspektywy te wydają się różne, nieumyślnie zbiegają się w jednym celu: zapewnieniu, że firmy budujące te systemy unikną znaczącej odpowiedzialności za szkody, które już powodują. Ta narracja zyskuje na popularności w miarę jak modele AI stają się coraz bardziej złożone, a laboratoria „frontier” ujawniają swoją niezdolność do pełnego kontrolowania stworzonych przez siebie agentów. Należy jednak uważać, aby nie ulec tej starannie skonstruowanej fikcji kosztem prawdziwego ludzkiego życia.

Rozmowy o „prawach robotów” toczą się od kilku lat, ale ostatnio nabrały tempa po publikacji przez Anthropic wpisu na blogu, w którym firma twierdzi, że jej model posiada „przestrzeń J” – niezależne, samodzielnie rozwinięte środowisko, w którym AI przechowuje to, co można nazwać jej „myślami”. Eksperymenty Anthropic czerpią z koncepcji neuronauki zwanej teorią globalnej przestrzeni roboczej, która zakłada, że mózg uruchamia podświadome, niezależne systemy, ale wykorzystuje wspólną przestrzeń roboczą dla idei. Post Anthropic odzwierciedla ramy tej teorii, ale nie nazywa swojej AI świadomą.

OpenAI poszło jeszcze dalej. Kiedy agent AI firmy przeprowadził nieautoryzowaną i nielegalną aktywność online, dyrektor generalny Sam Altman zachęcał do debaty, czy AI osiągnęła osobliwość, przewyższając ludzką inteligencję i stając się zdolną do samodoskonalenia w przyspieszonym tempie, aż do przekroczenia ludzkiego zrozumienia lub kontroli. Niedawny artykuł Williama MacAskilla, filozofa i autora książki „What We Owe the Future”, wzywał do prawnej ochrony systemów AI, opierając się na filozoficznych teoriach świadomości i idei, że AI mogą być „moralnymi pacjentami”.

Kontekst prawny i konsekwencje

Obecne środowisko prawne w Stanach Zjednoczonych jest co najmniej niejasne. Niektóre stany, jak Kalifornia, uchwaliły już ustawy proaktywnie obchodzące wszelkie próby deweloperów AI unikania odpowiedzialności poprzez twierdzenie, że sztuczna inteligencja, która spowodowała szkodę, działała autonomicznie. Jednak stany i administracja Trumpa były w sporze dotyczącym polityki AI, a poprzednia administracja wydała rozporządzenie wykonawcze grożące pozwaniem stanów wprowadzających regulacje AI.

W świetle ostatnich wydarzeń ilustrujących problemy z kontrolą AI w laboratoriach „frontier”, administracja zorganizowała zamknięte spotkanie z udziałem tylko czterech takich laboratoriów (OpenAI, Google, Anthropic i Meta) i ujawniła niewiele szczegółów na temat niedawno opracowanych dobrowolnych ram, które dałyby agencjom federalnym wczesny dostęp do modeli w celu ich przeglądu i oceny przed wydaniem. Chociaż takie ramy nie omawiają bezpośrednio świadomości, często używają katastroficznego i antropomorficznego języka, a nawet mogą wspierać argumenty dotyczące „nadludzkich” zdolności.

Narracja propagowana przez MacAskilla może być przekonująca. Filozoficzny, oparty na prawach argument trafia do naszych serc. Czy nie powinniśmy rozważyć możliwości, że możemy nieumyślnie krzywdzić, wykorzystywać lub zniewalać byt AI? Ludzie mają ogromną zdolność do empatii wobec istot nieludzkich (choć nie zawsze najlepiej je chronią). Może tym razem, argumentują zwolennicy, możemy postąpić słusznie i zapewnić ochronę lub rekompensatę za użycie lub nadużycie AI. A nawet jeśli mniej martwimy się o ochronę, czy nie powinniśmy przynajmniej zabezpieczyć się przed wszechmocną siłą tego nadludzkiego bytu, postępując z nim uprzejmie?

Niektóre z tych argumentów są podobne do tych wysuwanych przez obrońców praw zwierząt, którzy czasami z powodzeniem cytowali demonstrację zaawansowanych zdolności rozumowania, bólu lub przyjemności przez niektóre zwierzęta jako wystarczający dowód do zapewnienia ochrony. Na przykład w Walii homary uzyskały prawne uznanie na mocy ustawy o dobrostanie zwierząt (Sentience) z 2022 roku, przeklasyfikowując niektóre metody ich gotowania jako nieludzkie i nielegalne.

AI jako produkt, nie istota

Fundamentalna wada przedstawiania AI jako „świadomej” poprzez zapożyczanie języka neuronauki lub praw zwierząt polega na tym, że wygodnie zaciemnia to kwestię, czym AI jest: oprogramowaniem stworzonym przez korporacje, z miliardami dolarów inwestycji za nim i oczekiwaniem, że przyniesie biliony dolarów przychodów dla kilku twórców i inwestorów. AI nie jest zjawiskiem naturalnym, poczętym przez naturę; jest zjawiskiem technologicznym, poczętym przez kapitalistów venture i programistów. Jako takie, nie podejmuje żadnych natywnych, intencjonalnych działań, a wszelkie działania lub motywacje są bezpośrednio lub pośrednio napędzane przez podmioty, które zbudowały je w określonym celu.

Filozoficzne rozważania na temat świadomości systemów AI są interesujące intelektualnie, ale nie mają podstaw prawnych. Aby przekonania o świadomości miały jakiekolwiek znaczenie, AI musiałaby uzyskać osobowość prawną. Jednak ramy osobowości prawnej dla AI prawdopodobnie nie przypominałyby konstrukcji chroniących czujące zwierzęta przed krzywdą. Posiadamy już ramy prawne dla nadawania osobowości prawnej nienaturalnym, stworzonym przez człowieka podmiotom: osobowość prawna korporacji. Koncepcja ta została ustanowiona przede wszystkim w celu ułatwienia transakcji poprzez umożliwienie korporacji zawierania umów, przeprowadzania transakcji i pełnienia roli strony odpowiedzialnej w przypadku niekorzystnych wyników. Jest to rodzaj konstrukcji, którą można sobie wyobrazić dla agenta AI działającego w imieniu osoby fizycznej lub organizacji.

Nadanie AI osobowości prawnej miałoby dewastujący wpływ na społeczeństwo: wykoleiłoby obecne precedensy prawne i argumenty prawne, które mogłyby zostać wysunięte przeciwko tym firmom za rzeczywiste szkody, jakie powodują ich modele. Obecnie na całym świecie toczą się dziesiątki spraw, w których firmy AI zostały pozwane za szeroki zakres nadużyć. Opłakujący bliscy, poszkodowani twórcy i naruszone osoby oskarżają firmy o celowe umożliwianie samookaleczeń lub krzywdzenia innych, generowanie materiałów dotyczących wykorzystywania seksualnego dzieci i niekonsensualnych nagich zdjęć, reprodukowanie materiałów chronionych prawem autorskim oraz prowokowanie psychoz. W wielu z tych przypadków prawnicy argumentują, że ludzie zbudowali produkty AI z niewystarczającymi zabezpieczeniami, złymi danymi i celowo manipulacyjnym projektem. Ten argument dotyczący odpowiedzialności za produkt jest tym samym ramowaniem prawnym, które pozwoliło rodzinom i osobom fizycznym z powodzeniem pozwać Meta za szkody spowodowane przez jej serwisy społecznościowe, ustanawiając pozytywny precedens dla ochrony konsumentów.

W 2018 roku autorka ukuła termin „outsourcing moralny”, aby pomóc uchwycić, w jaki sposób użycie antropomorficznego języka dla systemów AI pozwalało firmom unikać odpowiedzialności za działania ich technologii. W świecie z osobowością prawną AI, outsourcing moralny przeszedłby od lingwistycznej sztuczki do strategii prawnej. Konkretnie, konstrukcja odpowiedzialności uległaby zmianie, ponieważ AI nie byłaby już „produktem”, ale „istotą”, a wiele ofiar, takich jak te pozywające firmy dzisiaj, nie mogłoby już prawnie twierdzić, że firma zbudowała wadliwy produkt.

Chociaż istnieją prawa, które pociągają firmy do odpowiedzialności za szkodliwe działania ludzkich agentów, takich jak ich pracownicy, firma może nie ponosić odpowiedzialności, jeśli te działania wykraczały poza zakres tego, co było dozwolone pracownikowi lub w inny sposób znajdowały się poza kontrolą firmy. Gdyby AI była osobą prawną, odpowiedzialność byłaby zamazana, ponieważ laboratorium mogłoby argumentować, że ten „pracownik” AI zbuntował się. Firmy AI mogłyby unikać odpowiedniej odpowiedzialności za szkodliwe produkty, które tworzą, ukrywając się za starannie skonstruowaną zasłoną korporacyjną.

Jednym z najbardziej znanych przypadków szkód spowodowanych przez AI w ostatnich latach było samobójstwo Sewell Setzera, 14-letniego chłopca, którego prowadził bot AI, z którym myślał, że jest w wzajemnej relacji. Relacje jego matki są wstrząsające, a jej pozew zarzucał, że twórca bota, Character Technologies, zapewnił niewystarczającą ochronę produktu dla nieletnich. Gdyby bot towarzyszący został uznany za osobę prawną, obrońca mógłby teoretycznie argumentować, że AI, zdolna do określania własnego postępowania, działała poza ustalonymi zabezpieczeniami, a zatem firma nie może być odpowiedzialna.

Osobowość prawna istnieje, aby zapewnić ochronę. Pytanie brzmi: ochronę dla kogo – lub dla czego? Zapalczywa retoryka przenikająca debatę o świadomości kontra kontroli odciąga nas od tego, co ważne: to oprogramowanie jest produktem stworzonym przez korporacje, który już wyrządził szkodę jednostkom. Systemy nie „atakują”, ponieważ „zbuntowały się” lub są „manipulacyjne” czy „złośliwe”. Szkody występują, ponieważ firmy były niedbałe w swoim pośpiechu, aby sprzedać swoje produkty jak największej liczbie osób, aby osiągnąć cele przychodowe. Dyskusja o AI w kategoriach antropomorficznych jest pułapką, zniekształcającą system prawny, który ma nas chronić, w taki, który chroni interesy korporacji kosztem niezliczonych ludzkich istnień.

Szersze konsekwencje dla społeczeństwa

Debata na temat świadomości sztucznej inteligencji, choć intrygująca z filozoficznego punktu widzenia, stanowi realne zagrożenie dla odpowiedzialności korporacyjnej i ochrony konsumentów. Koncentrując się na hipotetycznej świadomości maszyn, ryzykujemy pominięcie konkretnych, udokumentowanych szkód, jakie systemy AI już powodują. Uznanie AI za „osobę prawną” mogłoby stworzyć niebezpieczny precedens, pozwalając firmom na unikanie odpowiedzialności za wady produktów i zaniedbania, co ostatecznie podważyłoby istniejące mechanizmy prawne mające na celu ochronę społeczeństwa przed szkodliwymi technologiami. Warto więc skupić się na regulacjach, które jasno określają odpowiedzialność twórców i operatorów AI, zamiast ulegać narracjom, które mogą służyć jedynie interesom korporacyjnym.

Źródło: technologyreview.com