Dario Amodei z Anthropic: Negatywne nastawienie do AI to „kryzys zaufania”

Dario Amodei, dyrektor generalny firmy Anthropic, odniósł się do zarzutów, jakoby jego ostrzeżenia dotyczące zagrożeń związanych ze sztuczną inteligencją (AI) przyczyniały się do negatywnego nastawienia społeczeństwa. Amodei twierdzi, że obecny sprzeciw wobec AI jest przede wszystkim kryzysem zaufania, który rozwijał się przez dziesięciolecia, a AI jest jedynie jego najnowszą odsłoną.

Odpowiedź na krytykę inwestora

Komentarze Amodeiego pojawiły się w odpowiedzi na krytykę ze strony inwestora Gavina Bakera. Baker, zarówno w podcaście „All-In”, jak i na platformie X, argumentował, że ostrzeżenia Amodeiego o niebezpieczeństwach AI przyczyniły się do narastającego sprzeciwu w Stanach Zjednoczonych, szczególnie wobec centrów danych. Baker stwierdził, że Amodei „przegrał argument” w kwestii regulacji AI (Anthropic opowiada się za pewnymi regulacjami, w tym za ustawą w Kalifornii nakładającą wymogi przejrzystości na duże firmy AI) i jako przyszły CEO jednej z najważniejszych firm na świecie, powinien starać się być bardziej pozytywnym orędownikiem własnej branży.

Amodei nie zgodził się z tezą, że jego przekaz był „nieproporcjonalnie negatywny”. Zamiast tego, podkreślił, że jego pisma były „równomiernie wyważone między ryzykiem a korzyściami”. Wspomniał, że napisał esej „Machines of Loving Grace”, ponieważ uważał, że branża AI nie przedstawiała wystarczająco inspirującego obrazu tego, jak technologia mogłaby radykalnie zmienić świat na lepsze. Przyznał jednak, że „opinia publiczna ma negatywny pogląd na AI” i zgodził się, że „to duży problem”. Nie zgodził się natomiast z poglądem, że ta negatywność jest „głównie spowodowana” przez niego lub innych liderów AI ostrzegających o ryzykach.

Kryzys zaufania, nie komunikacji

„Myślę, że to jest fundamentalnie kryzys zaufania” – powiedział Amodei. „Uważam, że zwykli ludzie nie ufają firmom, rządom ani branży technologicznej i zawsze podejrzewają, że szykujemy jakiś nowy sposób, żeby ich oszukać”. Podkreślił, że słowo „zaufanie” często pojawia się w nagłówkach dotyczących CEO OpenAI, Sama Altmana, i jest również problemem dla innych dyrektorów generalnych firm AI, takich jak on sam. W jego ocenie, kryzys ten narastał przez dziesięciolecia, a sprzeciw wobec AI jest tylko jego „najnowszą iteracją”.

Amodei uważa, że najbardziej trafna krytyka firm AI, w tym Anthropic, polega na tym, że „nie spełniliśmy jeszcze naszych wielkich obietnic dotyczących korzyści dla świata”. Dodał, że to jest „całkowicie nasza wina” i jest to krytyka, którą powinno się kierować, zamiast skupiać się na komunikacji i marketingu. Stwierdził, że obiecywanie, iż AI wyleczy raka, jest „bardziej banałem niż inspiracją”; to, co naprawdę zmieniłoby opinię ludzi o AI, to „faktyczne wyleczenie raka”.

Regulacje a koncentracja władzy

W kwestii regulacji Amodei argumentował, że Baker przedstawia „fałszywy wybór” między szerokim rozpowszechnianiem AI bez regulacji a koncentracją technologii w rękach kilku firm poprzez regulacje. „Wiem, że w Dolinie Krzemowej istnieje skrót myślowy, gdzie regulacja = przejęcie regulacyjne = koncentracja władzy, ale zawsze uważałem to za nadmiernie uproszczony obraz świata” – powiedział Amodei. Dodał, że „wielu ludzi poza tą bańką uważa regulacje za coś, co ogranicza władzę korporacji i przynosi korzyści zwykłym ludziom”.

Amodei zaznaczył, że niekoniecznie zgadza się z tą perspektywą, ale właśnie dlatego Anthropic zawsze bardzo ostrożnie formułuje swoje propozycje polityczne. „Bardzo staramy się tworzyć propozycje, które stawiają w niekorzystnej sytuacji (spowalniają) firmy rozwijające przełomowe AI, jednocześnie dając przewagę mniejszym konkurentom” – wyjaśnił. Uzasadnił to tym, że w jego ocenie „AI jest strukturalnie technologią, która ma tendencję do koncentrowania władzy”. Podkreślił, że modele open-weights (otwarte wagi) częściowo pomagają w tej kwestii, ale nie są wystarczającym rozwiązaniem, ponieważ jedynie przesuwają koncentrację w stronę tych, którzy dysponują największą mocą obliczeniową i układami scalonymi. Amodei wierzy, że odpowiednie „zasady gry” mogą jednocześnie:

• Adresować ryzyka cybernetyczne, biologiczne i związane z dopasowaniem AI.
• Instytucjonalnie ograniczać władzę firm rozwijających przełomowe AI.
• Pozostawić miejsce dla modeli open-weights, jednocześnie adresując specyficzne ryzyka, które ze sobą niosą.

Słowa Dario Amodeiego rzucają światło na złożoną dynamikę między innowacją technologiczną a zaufaniem społecznym. Podkreślają one, że przyszłość AI zależy nie tylko od postępu technologicznego, ale także od zdolności branży do budowania wiarygodności i dostarczania namacalnych korzyści, które przekonają sceptyków i odbudują nadwątlone zaufanie do sektora technologicznego. To wyzwanie, które wymaga zarówno odpowiedzialnych regulacji, jak i realnych osiągnięć, wykraczających poza marketingowe obietnice.

Źródło: techcrunch.com