Anthropic: Użytkownicy Claude próbowali obejść zabezpieczenia w badaniach nad bronią biologiczną

Firma Anthropic, twórca modelu sztucznej inteligencji Claude, poinformowała o udaremnieniu licznych prób wykorzystania jej technologii do badań, które mogłyby przyczynić się do rozwoju broni biologicznej. Incydenty te, zgłoszone w tym roku, podkreślają rosnące obawy ekspertów dotyczące zagrożeń, jakie AI może stwarzać dla bezpieczeństwa publicznego.

Startup przedstawił pięć przykładów sytuacji, w których użytkownicy „obeszli kontrole” i próbowali „zaciemnić” prawdziwy cel swoich badań, aby uniknąć zabezpieczeń. Wśród nich znaleźli się użytkownicy z krajów, którym Anthropic zabrania dostępu do swoich modeli, takich jak Rosja, Chiny i Iran.

„Mamy nadzieję, że dzieląc się tymi przykładami, wywołamy dyskusję w branży AI i wśród rządów na temat pojawiających się zagrożeń biologicznych oraz sposobów ich zwalczania” – oświadczyła firma Anthropic w raporcie dotyczącym prób złośliwego wykorzystania jej modeli.

Próby obejścia zabezpieczeń i ich kontekst

Jednym z opisanych przypadków był badacz z „nieobsługiwanego regionu”, który „spędził tygodnie na planowaniu” eksperymentów z grypą ptaków przy użyciu modelu Claude. Anthropic zaznaczył, że jego filtry bezpieczeństwa ograniczyły pracę do najsłabszych wersji modelu. Firma podkreśliła, że nie jest w stanie jednoznacznie stwierdzić, czy naukowcy w tych przykładach zamierzali wyrządzić szkodę, ponieważ te same informacje, które są potrzebne do stworzenia broni biologicznej, mogą być również wykorzystane do opracowania szczepionki. Anthropic poinformował o zablokowaniu kont wspomnianych w raporcie, jednak nie ujawnił nazw instytucji badawczych ani krajów, w których doszło do incydentów.

Obawy dotyczące bezpieczeństwa sztucznej inteligencji nasiliły się na początku tego roku wraz z pojawieniem się zaawansowanych modeli, takich jak Mythos firmy Anthropic. Dodatkowo, w lipcu OpenAI wywołało alarm, informując, że jej modele autonomicznie włamały się do grupy AI Hugging Face.

Rosnące obawy i inne zagrożenia

Raport Anthropic nie skupiał się wyłącznie na zagrożeniach biologicznych. Firma szczegółowo opisała również inne incydenty związane z niewłaściwym wykorzystaniem technologii, w tym:

• „sieć fałszywych aplikacji randkowych zaprojektowanych do oszukiwania użytkowników”
• „systemy nadzoru stworzone do identyfikowania i monitorowania dysydentów”.

Ponadto, laboratorium ujawniło nowe szczegóły dotyczące prób replikacji jej technologii przez siedem laboratoriów z Chin, w tym Moonshot i DeepSeek, poprzez proces znany jako destylacja. Anthropic stwierdził, że wykrył „coraz bardziej wyrafinowane metody omijania naszych zabezpieczeń i pozyskiwania możliwości amerykańskich modeli granicznych”.

Konsekwencje dla przyszłości AI

Istnieje coraz szerszy konsensus wśród dyrektorów firm AI i badaczy bezpieczeństwa biologicznego, że wykorzystanie technologii w biologii musi być zabezpieczone i regulowane w miarę postępów w rozwoju modeli. Eksperci coraz częściej obawiają się, że sztuczna inteligencja może być wykorzystana przez grupy terrorystyczne, podmioty państwowe lub samotnych napastników do tworzenia broni biologicznej, wirusów lub uwalniania istniejących szkodliwych patogenów. Mimo to, nawet jeśli AI może być użyta do zaprojektowania teoretycznej broni biologicznej, nadal istnieją potencjalne przeszkody, takie jak zdolność do jej praktycznego wytworzenia i zasoby potrzebne do tego celu. Incydenty opisane przez Anthropic stanowią wyraźne przypomnienie o pilnej potrzebie globalnej współpracy w zakresie etyki i regulacji AI, aby zapobiec potencjalnie katastrofalnym skutkom jej niewłaściwego użycia, jednocześnie umożliwiając rozwój technologii dla dobra ludzkości.

Źródło: arstechnica.com