OpenAI wprowadza płatne doradztwo zdrowotne w ChatGPT, budząc obawy o nierówny dostęp

OpenAI udostępnia użytkownikom w Stanach Zjednoczonych w wieku 18 lat i starszych funkcję „Zdrowie w ChatGPT”, która była testowana od stycznia. Nowa usługa pozwala na integrację danych z Apple Health, dokumentacji medycznej oraz aplikacji wellness, umożliwiając przeglądanie wyników badań laboratoryjnych, przygotowanie do wizyt lekarskich oraz analizę danych dotyczących snu i aktywności. OpenAI zapewnia, że połączone dane zdrowotne nie będą wykorzystywane do trenowania modeli ani celów reklamowych.

Dwupoziomowy dostęp do porad zdrowotnych

Kluczowym elementem nowej oferty jest zróżnicowanie jakości usług w zależności od statusu subskrypcji. Użytkownicy darmowej wersji ChatGPT otrzymują porady zdrowotne o niższej jakości, ponieważ funkcja ta jest zasilana modelem GPT-5.5 Instant. Z kolei płacący subskrybenci mają dostęp do nowszego i bardziej zaawansowanego modelu GPT-5.6 Sol, który osiąga lepsze wyniki w benchmarkach zdrowotnych. OpenAI prawdopodobnie będzie bronić tego dwupoziomowego systemu, argumentując, że oba modele przewyższają odpowiedzi lekarzy w teście HealthBench Professional.

Ograniczenia benchmarków i ryzyka AI w medycynie

Warto jednak pamiętać, że wyniki benchmarków, choć wydają się rozstrzygające, pochodzą ze sztucznych środowisk testowych, zaprojektowanych do mierzenia wiedzy. Lekarze mogą osiągać niższe wyniki z wielu powodów, takich jak presja czasu, zmęczenie czy brak dostępu do pełnej dokumentacji pacjenta lub konsultacji z kolegami. Ponadto, benchmarki nie oddają w pełni złożoności rzeczywistego badania medycznego, gdzie lekarze mogą osobiście badać pacjentów, odczytywać niewerbalne sygnały i wykorzystywać lata doświadczeń do oceny ogólnego stanu zdrowia. Samo OpenAI wielokrotnie podkreśla, że ChatGPT może popełniać błędy i nie zastąpi profesjonalnej porady medycznej. Firma informuje, że w rozwój funkcji zdrowotnych zaangażowanych było ponad 260 lekarzy.

Ryzyka związane z wykorzystaniem AI w medycynie nie są jedynie hipotetyczne. W najnowszym benchmarku radiologicznym, RadLE 2.0, żaden z 16 testowanych modeli AI nie dorównał ludzkim radiologom. Głównym problemem była tendencja chatbotów do przedstawiania nieprawidłowych wniosków z dużą pewnością, zamiast przyznawania się do ograniczeń, podczas gdy ludzcy specjaliści znacznie lepiej radzili sobie z wyrażaniem niepewności. Ta mieszanka nadmiernej pewności siebie, perswazji i skłonności do potwierdzania przekonań użytkownika, zamiast kwestionowania fałszywych założeń, przyczyniła się już do poważnych szkód w zakresie zdrowia psychicznego.

Rozwój i wyzwania globalne

OpenAI odnotowało, że ponad 70 procent uczestników wczesnych testów zadawało pytania zdrowotne poza dedykowaną sekcją „Zdrowie” ze względu na jej uciążliwość. W odpowiedzi firma udostępniła funkcję zdrowotną w każdej konwersacji, zachowując osobną sekcję do zarządzania danymi i dostępu do wcześniejszych czatów zdrowotnych. Obecnie ponad 300 milionów osób zadaje ChatGPT pytania zdrowotne każdego tygodnia, co stanowi wzrost z 230 milionów w styczniu.

Firma nie podała, czy i kiedy funkcja „Zdrowie” będzie dostępna w Europie. W styczniu, podczas jej ogłaszania, OpenAI wyraźnie wykluczyło Europejski Obszar Gospodarczy, Szwajcarię i Wielką Brytanię. Prawdopodobnymi przyczynami są bardziej rygorystyczne unijne przepisy dotyczące prywatności danych oraz możliwość zaklasyfikowania tej funkcji jako wysokiego ryzyka zgodnie z unijną ustawą o sztucznej inteligencji (EU AI Act).

Pomimo tych wyzwań, istnieją doniesienia o tym, że AI potrafi dostrzegać w danych zdrowotnych wzorce, które umykają profesjonalistom medycznym, czasem z zaskakującymi rezultatami. Systemy takie jak MIRA (do elektronicznej dokumentacji medycznej) i AMIE osiągnęły wyniki porównywalne z lekarzami podstawowej opieki zdrowotnej w symulowanych konsultacjach. Jeden z badaczy porównał agenty AI do autopilota w samolocie, stwierdzając, że „systemy te mogą wspierać i odciążać pracowników medycznych, przejmując rutynowe zadania, ale ostateczna odpowiedzialność zawsze będzie spoczywać na lekarzach”. Wprowadzenie płatnych, zróżnicowanych usług zdrowotnych przez OpenAI podkreśla rosnącą rolę AI w medycynie, jednocześnie stawiając pytania o etykę dostępu do zaawansowanych technologii i konieczność zachowania ludzkiego nadzoru w kluczowych obszarach opieki zdrowotnej.

Źródło: the-decoder.com