Brytyjski regulator ostrzega przed 'wyścigiem zbrojeń' w obliczu rosnącego wykorzystania AI w finansach

Regulatorzy stoją w obliczu „wyścigu zbrojeń” w nadążaniu za dynamicznym rozwojem sztucznej inteligencji w sektorze usług finansowych, ostrzegł wysoki rangą urzędnik z Wielkiej Brytanii. Sheldon Mills, dyrektor wykonawczy w Financial Conduct Authority (FCA), podkreślił, że miliony ludzi już teraz wykorzystują tę technologię do podejmowania osobistych decyzji finansowych, co wymaga pilnego zwiększenia uprawnień organów nadzorczych.

W rozmowie z „Financial Times” Mills zaznaczył, że FCA będzie potrzebować szerszych kompetencji, aby skutecznie monitorować szybki rozwój AI. Wezwał również władze brytyjskie do przeglądu, czy wykorzystanie modeli językowych takich jak ChatGPT, Claude czy Gemini powinno podlegać ich regulacjom. Przed poniedziałkową publikacją raportu na temat wpływu AI na usługi finansowe, zleconego przez FCA, Mills stwierdził, że sami regulatorzy muszą wdrożyć AI, aby sprostać „szybkości, tempu i skali zmian”, jakie technologia wnosi do sektora, a także by „monitorować, wykrywać i zwalczać ryzyka”.

Korzyści i zagrożenia płynące z AI w finansach

Raport Millsa identyfikuje zarówno korzyści, jak i ryzyka związane z rosnącym wykorzystaniem sztucznej inteligencji w usługach finansowych. Jak wynika z podsumowania, do którego dotarł „Financial Times”, „hiperpersonalizacja mogłaby pomóc lepiej dopasować produkty do potrzeb, ale także sprzyjać stronniczości, nieprzejrzystym cenom i spersonalizowanym manipulacjom”.

Raport rekomenduje, aby FCA w ciągu najbliższych trzech do sześciu miesięcy przeprowadziła przegląd, który zbada ryzyka związane z firmami świadczącymi usługi finansowe poza zakresem regulacji, a także „szkody dla konsumentów” wynikające z coraz popularniejszego wykorzystania modeli AI do zarządzania osobistymi finansami. Badania zlecone przez Millsa wykazały, że jedna piąta dorosłych Brytyjczyków jest już otwarta na korzystanie z modeli AI do podejmowania za nich decyzji finansowych, na przykład dotyczących oszczędności czy pożyczek. Dzieje się tak, mimo że usługi te nie są objęte regulacjami, a w przypadku problemów nie ma możliwości uzyskania odszkodowania.

Mills zwrócił uwagę, że niektóre firmy postrzegają to jako „ekonomicznie równoważny rodzaj usługi, która nie jest regulowana i znajduje się poza zakresem regulacyjnym”. Zauważył, że dla regulowanych firm udzielających podobnych rekomendacji obowiązują „dość surowe” zasady. Zadał pytanie, czy fakt, że model czatu może odpowiadać na zapytania i prowadzić rozmowę, jest czymś bliższym rekomendacji czy doradztwu.

Jednocześnie Mills podkreślił, że AI może „demokratyzować” finanse, poszerzając dostęp do zaawansowanych usług, które obecnie są dostępne tylko dla najbogatszych klientów. Stwierdził, że osoby zarabiające zaledwie 20 000 funtów rocznie mogłyby uzyskać dostęp do porad finansowych, które zazwyczaj są dostępne tylko dla „kogoś, kto ma 10 milionów funtów oszczędności lub aktywów”.

Rekomendacje i wyzwania regulacyjne

Raport Millsa rekomenduje, aby FCA zwołała grupy z sektora publicznego i prywatnego w celu opracowania „usługi zdolności finansowej opartej na AI”, która zapewniałaby bezpłatne informacje i wskazówki brytyjskiej opinii publicznej w zakresie ich wyborów finansowych. Wiele firm świadczących usługi finansowe już testuje agentów AI, którzy mogą autonomicznie przeprowadzać transakcje finansowe dla firm i konsumentów. Mills, który po ośmiu latach odchodzi z FCA, podkreślił, że menedżerowie nadal będą musieli ponosić odpowiedzialność za działania swoich modeli AI. „Potrzebny jest człowiek, który będzie odpowiadał za to, co robią” – powiedział.

AI prawdopodobnie „wzmocni” zagrożenie oszustwami i cyberatakami, stwierdza raport, wzywając do wykorzystania technologii do obrony systemu przed takimi zagrożeniami. „Deepfakes, syntetyczne tożsamości i spersonalizowana inżynieria społeczna wprowadzają oszustwa i ryzyka cybernetyczne w nową erę i zmieniają sposób przeprowadzania ataków” – czytamy w dokumencie.

Raport Millsa zaleca również wzmocnienie uprawnień FCA w ramach reżimu „krytycznych stron trzecich”, który pozwala nadzorować kluczowych dostawców technologii dla sektora finansowego, takich jak Anthropic, OpenAI, Amazon, Google i Microsoft. Rząd ma jeszcze zdecydować, które z dużych grup technologicznych zostaną objęte tym reżimem, umożliwiającym regulatorom nakładanie bardziej rygorystycznych wymogów dotyczących ujawniania informacji, w tym corocznych samoocen i „testów scenariuszowych” ich zdolności do wytrzymywania poważnych zakłóceń.

Raport sugeruje również, że FCA mogłaby ubiegać się o dodatkowe uprawnienia w ramach reżimu „działalności wyznaczonej”, który pozwala regulować konkretne działania bez konieczności autoryzacji firm je wykonujących. Zarząd FCA ma omówić raport Millsa przed podjęciem decyzji o sposobie reagowania na jego rekomendacje.

FCA spotkała się z krytyką ze strony niektórych polityków za 12-tygodniową umowę z amerykańską grupą technologiczną Palantir na testowanie, czy jej systemy AI mogą pomóc w zwalczaniu przestępczości finansowej. Niektórzy posłowie wyrazili obawy, że umowa może dać władzom USA dostęp do wrażliwych brytyjskich informacji finansowych. FCA i Palantir zaprzeczyły tym zarzutom. Mills odmówił komentarza w sprawie umowy z Palantir.

Szybki rozwój sztucznej inteligencji stawia przed regulatorami finansowymi na całym świecie, w tym brytyjską FCA, bezprecedensowe wyzwania. Konieczność znalezienia równowagi między innowacją a ochroną konsumentów, a także adaptacja do zmieniającego się krajobrazu technologicznego, będzie kluczowa dla utrzymania stabilności i zaufania w sektorze finansowym. Dalsze działania FCA w odpowiedzi na rekomendacje raportu Millsa będą bacznie obserwowane jako potencjalny wzorzec dla innych jurysdykcji.

Źródło: arstechnica.com