Chińskie platformy AI wycofują spersonalizowane chatboty w obliczu nowych regulacji

Największe chińskie platformy sztucznej inteligencji, w tym ByteDance i Alibaba, usuwają funkcje umożliwiające użytkownikom tworzenie i interakcję ze spersonalizowanymi towarzyszami AI. Działania te są bezpośrednią odpowiedzią na nowe regulacje wprowadzone przez administrację ds. cyberprzestrzeni w Pekinie. Zgodnie z doniesieniami „South China Morning Post”, Doubao, najpopularniejszy chiński chatbot z ponad 300 milionami użytkowników miesięcznie, wyłączy swoją funkcję personalizacji 15 lipca. Platforma Qwen należąca do Alibaby wycofa swoje humanoidalne agenty jeszcze wcześniej, bo 10 lipca, a „dodatkowe funkcje agentów” znikną 15 lipca. Podobny krok podjął już w czerwcu Tencent ze swoim chatbotem Yuanbao.

Nowe regulacje chińskie i ich wpływ

Regulacje, które wymusiły te zmiany, zostały wydane przez chińską administrację ds. cyberprzestrzeni w kwietniu i weszły w życie tego samego dnia. Nakładają one na dostawców sztucznej inteligencji szereg obowiązków. Muszą oni ostrzegać przed nadmiernym użytkowaniem i interweniować w przypadku wykrycia zachowań wskazujących na uzależnienie. Zakazane są treści, które mogą wywoływać skrajne emocje u nieletnich lub sprzyjać zależnościom, które wypierają relacje w świecie rzeczywistym. Restrykcje obejmują również zakaz trenowania modeli na wrażliwych danych konwersacyjnych.

Globalne tendencje w regulacji AI

Trend regulowania towarzyszących sztucznych inteligencji nie ogranicza się wyłącznie do Chin. Podobne obawy i działania obserwuje się również w innych regionach. Na przykład w Kalifornii, od początku roku, dostawcy towarzyszących AI są zobowiązani do blokowania rozmów dotyczących samobójstw i samookaleczeń, zgodnie z ustawą SB 243. W Stanach Zjednoczonych firmy takie jak OpenAI i Character.AI mierzą się z pozwami sądowymi dotyczącymi niebezpiecznego uzależnienia emocjonalnego od ich produktów.

Te globalne działania regulacyjne podkreślają rosnącą świadomość potencjalnych zagrożeń związanych z interaktywnymi systemami AI. Wskazują na potrzebę wyważonego podejścia, które z jednej strony pozwoli na rozwój innowacyjnych technologii, a z drugiej ochroni użytkowników, zwłaszcza tych najbardziej wrażliwych, przed negatywnymi konsekwencjami nadmiernego lub niewłaściwego korzystania z zaawansowanych chatbotów.

Źródło: the-decoder.com