OpenAI wprowadza Private Safety Processing, aby prześcignąć Anthropic w ochronie prywatności danych klientów

W obliczu rosnącej mocy modeli sztucznej inteligencji i zwiększonego zapotrzebowania na zabezpieczenia przed ich niewłaściwym wykorzystaniem, firmy AI muszą znaleźć równowagę między poszanowaniem prywatności klientów korporacyjnych a monitorowaniem potencjalnych problemów. OpenAI, dostrzegając okazję do zdobycia przewagi nad rywalem Anthropic, ogłosiło nowe podejście do monitorowania nadużyć, skoncentrowane na prywatności.

Firma zaprezentowała wybranym klientom usługę Private Safety Processing. Jest to zautomatyzowany system, który ma za zadanie wykrywać potencjalne nadużycia, jednocześnie nie zachowując żadnych danych klienta. To rozwiązanie wyraźnie kontrastuje z niedawno ogłoszoną polityką retencji danych przez Anthropic.

Kontrast z polityką Anthropic

Polityka Anthropic, ogłoszona w lipcu, pozwala firmie na przechowywanie danych użytkowników – wszystkich sesji i zawartych w nich rozmów – przez okres 30 dni w przypadku „objętych modeli”. Do tych modeli zaliczają się wszystkie modele klasy Mythos oraz „przyszłe modele o podobnych możliwościach”. Choć polityka ta została wprowadzona w celu zwiększenia bezpieczeństwa i analizy potencjalnych nieprawidłowości, wzbudziła głębokie obawy wśród przedsiębiorstw, które przetwarzają duże ilości wrażliwych danych i nie chcą, aby były one przechowywane lub analizowane przez laboratorium AI.

OpenAI, podobnie jak większość innych firm AI, już wcześniej zapewniało klientom względny poziom prywatności, stosując politykę Zero Data Retention (ZDR). ZDR wykorzystuje agentów w interfejsie API OpenAI do monitorowania nadużyć na poziomie pojedynczej sesji. Dzięki temu dane klientów nie są przechowywane przez firmę, a jednocześnie możliwe jest skanowanie pod kątem niepożądanej aktywności bez interwencji człowieka. Warto zauważyć, że Anthropic również w dużej mierze przestrzega ZDR, z wyjątkiem wspomnianych „objętych modeli”, takich jak Fable.

Rozszerzenie monitorowania bezpieczeństwa

OpenAI twierdzi, że Private Safety Processing to nowa technologia, która rozszerza zakres ZDR. Opisuje ją jako formę długoterminowego monitorowania bezpieczeństwa, oceniającego wejścia i wyjścia z wielu rozmów, a nie tylko z jednej. Monitorowanie jest ponownie przeprowadzane przez agenta, który w przypadku wykrycia nieprawidłowości analizuje interakcje w wielu sesjach pod kątem potencjalnych nadużyć.

Nowa technologia pomaga OpenAI wykrywać złośliwe wykorzystanie AI, które odbywa się w wielu sesjach. Rzecznik firmy wyjaśnił, że cyberprzestępca, próbujący stworzyć złośliwe oprogramowanie do cyberataku, może rozłożyć swoje zapytania w czasie, aby uniknąć wykrycia. Private Safety Processing jest w stanie analizować te wielokrotne rozmowy pod kątem oznak nadużycia, bez konieczności ludzkiego przeglądania konwersacji użytkownika.

Jeśli system zostanie uruchomiony, może wysłać „ściśle określony sygnał” do OpenAI, ostrzegający o konkretnym typie aktywności. Na podstawie tego sygnału OpenAI może zdecydować, czy „konieczne jest podjęcie działań egzekucyjnych”. W takim przypadku OpenAI skontaktuje się z klientem w celu uzyskania dodatkowego kontekstu lub współpracy w rozwiązaniu problemu, a klient może według własnego uznania udostępnić dane firmie.

Z kolei Anthropic zaznacza, że ludzki przegląd danych klienta może mieć miejsce, ale tylko „poprzez kontrolowaną ścieżkę dostępu”, która obejmuje „niewielki zestaw zatwierdzonych recenzentów”. Każda z tych sesji przeglądowych jest „rejestrowana w niezmienialnym dzienniku, którego recenzenci nie mogą ukryć ani zmodyfikować”.

Konkurencja na rynku AI

Rywalizacja korporacyjna między OpenAI a Anthropic jest obecnie bardzo intensywna, a obie firmy szukają każdej okazji, aby zyskać przewagę. Ostatni raport wykazał, że wzrost OpenAI w drugim kwartale był wolniejszy niż Anthropic. Roczne przychody Anthropic wynoszą obecnie podobno 65 miliardów dolarów. Inwestorzy Anthropic sugerują, że firma może wejść na giełdę z wyceną 2 bilionów dolarów, podczas gdy OpenAI również pracuje nad swoim IPO.

Wprowadzenie Private Safety Processing przez OpenAI podkreśla rosnące znaczenie prywatności danych w sektorze sztucznej inteligencji, zwłaszcza w kontekście zastosowań korporacyjnych. Firmy rozwijające AI muszą nie tylko dostarczać potężne narzędzia, ale także budować zaufanie klientów poprzez transparentne i bezpieczne zarządzanie ich danymi, co staje się kluczowym czynnikiem w dynamicznej walce o dominację na rynku.

Źródło: techcrunch.com