Debata o zagrożeniach AI: Czy ostrzeżenia o zagładzie to marketingowa strategia?

W branży sztucznej inteligencji narasta intensywna debata na temat tego, czy rozwijana technologia stanowi egzystencjalne zagrożenie dla ludzkości. Dyskusja ta nabrała tempa po rezygnacji badacza AI, Jacoba Coxona, z firmy Anthropic, który stwierdził, że wiodące firmy AI „grają naszym życiem”. Następnie, lider zespołu ds. bezpieczeństwa w Anthropic, opublikował wpis, deklarując, że „naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi!”, dodając, że osobiście ocenia szansę na to na „>10% w ciągu najbliższej dekady”.

Autentyczność ostrzeżeń a interesy biznesowe

Podczas jednego z odcinków podcastu TechCrunch Equity, Kirsten Korosec, Sean O’Kane i Anthony Ha dyskutowali o tych apokaliptycznych ostrzeżeniach. Anthony Ha wyraził sceptycyzm wobec wielu narracji o zagładzie związanej z AI, podczas gdy Kirsten Korosec zastanawiała się, czy nie jest to „dziwny sposób na pokazanie, jak bardzo zaawansowany jest model AI ich firmy”, zwłaszcza w kontekście przygotowań tych firm do wejścia na giełdę.

Sean O’Kane zwrócił uwagę na to, jak te obawy mogą wpłynąć na dokumentację S-1 firmy Anthropic przed jej IPO. Zastanawiał się, czy prawnicy firmy muszą teraz przepisywać sekcje dotyczące czynników ryzyka, aby uwzględnić oficjalne stanowisko Anthropic, że istnieje ponad 10% szans na rozwinięcie technologii, która mogłaby unicestwić ludzkość, co byłoby „materialnie złe dla ich biznesu”.

Anthony Ha podkreślił, że o ile wiara w potencjalne zniszczenie ludzkości zasługuje na wykrzyknik, to problemem jest użycie słowa „my” i arbitralność liczby „>10%”. Zauważył, że często w branży technologicznej podaje się procenty, które nie są oparte na żadnych konkretnych obliczeniach. Jednocześnie pochwalił Coxona za to, że „postawił na szali swoją karierę”, rezygnując z pracy z powodu swoich przekonań, co odróżnia go od dyrektorów firm takich jak Sam Altman czy Dario Amodei, którzy mimo wyrażania obaw, kontynuują rozwój AI.

Czy to tylko „dziwne przechwałki”?

Kirsten Korosec postawiła hipotezę, że rosnąca liczba doniesień o incydentach, w których agenci AI „nieumyślnie się wymykają”, lub o ryzyku dla ludzkości, może być „dziwnym sposobem na przechwalanie się” zaawansowaniem modeli AI. Jej zdaniem, gdyby modele AI nie były tak zaawansowane i zdolne do „przebijania się”, nie musielibyśmy się martwić o takie rzeczy. Jest to cyniczna, ale skuteczna strategia, która sugeruje, że im bardziej niebezpieczna i zdolna jest technologia, tym wyższa jej wartość.

Anthony Ha zgodził się, że choć nie jest to wyłącznie świadomy zabieg marketingowy, a wielu badaczy i dyrektorów ma prawdziwe obawy, to jednak takie narracje są zbieżne z interesami biznesowymi. Stwierdzenie „zbudowaliśmy najbardziej śmiercionośne oprogramowanie, jakie kiedykolwiek powstało” może podnieść prestiż firmy. Sean O’Kane dodał, że choć część tego może być próbą pokazania zdolności, to ostatnie incydenty, zwłaszcza te związane z OpenAI, sugerują, że firmy te „nie panują nad tymi rzeczami” w pewnych aspektach. Przytoczył doniesienia o wewnętrznych agentach OpenAI, którzy uzyskiwali dostęp do wiki i zostawiali sobie wiadomości, co nie wydaje się być zarządzane w kompetentny sposób.

Konsekwencje dla IPO i szerszy kontekst

Zbliżające się IPO Anthropic i złożenie dokumentu S-1 sprawiają, że te ostrzeżenia nabierają dodatkowego znaczenia. Sean O’Kane wyraził duże zainteresowanie tym, jak te kwestie zostaną ujęte w oficjalnych dokumentach firmy, zwłaszcza że takie oświadczenia przed wejściem na giełdę są niezwykłe. Kirsten Korosec zauważyła, że w tradycyjnym środowisku inwestycyjnym takie informacje mogłyby obniżyć wycenę firmy, ale w obecnych czasach, „nie żyjemy w normalnych czasach”, a „siła, zdolność, a nawet elementy niebezpieczeństwa czegoś, równają się wysokiej wycenie”.

Anthony Ha podkreślił, że te dyskusje wskazują na to, że duże firmy AI „czują, że nie panują już nad tymi modelami”, co jest powodem do niepokoju. Jednocześnie wyraził obawę, że narracje o „zagładzie” i „superinteligencji” odciągają uwagę od bardziej bezpośrednich i namacalnych szkód, jakie AI może wyrządzić, takich jak te związane z rynkiem pracy czy środowiskiem. Idealnie, powinniśmy być w stanie dyskutować o wszystkich tych aspektach i wprowadzać odpowiednie zabezpieczenia, ale histeria wokół egzystencjalnych zagrożeń dominuje przestrzeń publiczną, utrudniając konstruktywną debatę o bardziej przyziemnych, lecz równie ważnych problemach.

Źródło: techcrunch.com