Google Research i UNSW Sydney prezentują GlucoFM: Model AI do monitorowania glukozy

Google Research we współpracy z UNSW Sydney zaprezentowało GlucoFM, innowacyjny, samoobsługowy model fundamentowy przeznaczony do ciągłego monitorowania glukozy (CGM). Jego kluczową innowacją jest rozdzielenie danych na dwa strumienie: wolno zmieniający się fizjologiczny „stan” oraz przejściowy strumień „zdarzeń”. Takie podejście ma na celu poprawę precyzji analizy danych glikemicznych.

Innowacyjne podejście do analizy danych CGM

Dotychczasowe modele fundamentowe CGM, takie jak CGMformer, GluFormer czy CGM-JEPA, przetwarzały ślad glukozy jako jedną, splecioną sekwencję. GlucoFM odchodzi od tej metody, rozkładając dane na dwa odrębne strumienie. Pierwszy, strumień stanu, odzwierciedla powolną, regulacyjną linię bazową, natomiast drugi, strumień zdarzeń, koncentruje się na krótkotrwałych odchyleniach, wynikających np. z posiłków, aktywności fizycznej, stresu czy artefaktów sensora. Model zachowuje maskę obserwacji i jest wstępnie trenowany z wykorzystaniem dwóch celów latentnych w stylu JEPA.

Model GlucoFM, posiadający 0.72 miliona parametrów, osiągnął średnią wartość PR-AUC wynoszącą 58.8 w 14 ocenach kohortowo-zadaniowych. Jest to wynik znacząco lepszy od najsilniejszej bazowej linii specyficznej dla CGM, która po ponownym trenowaniu na tym samym korpusie danych uzyskała 54.7 PR-AUC. Model został wstępnie przeszkolony na 109 066 godzinach nieoznaczonych danych CGM pochodzących od 477 osób, wykorzystując pojedynczy procesor H100.

Architektura i proces treningu

GlucoFM wyrównuje każde nagranie do stałej 24-godzinnej siatki z interwałem Δt = 5 minut, co daje L = 288 pozycji, zachowując jednocześnie absolutny cyrkularny indeks początkowy. Maska obserwacji (M) jest utrzymywana przez cały proces – brakujące pozycje są wypełniane tylko w celu zbudowania tensora i nigdy nie są liczone jako pomiary. Testy wykazały, że gęsta interpolacja działa gorzej niż domyślne podejście uwzględniające maskę.

Sygnał jest następnie dzielony przez przyczynowy, uwzględniający maskę, uczący się filtr Gaussa: przefiltrowany trend staje się strumieniem stanu, a zamaskowana reszta strumieniem zdarzeń. Szerokość pasma σ jest uczona w zakresie 2–12 kroków siatki (około 10–60 minut), z początkową wartością 6.0. Jednostronne jądro zapewnia przyczynowość, co oznacza, że przyszłe dane glukozy nigdy nie wpływają na bieżącą estymację stanu.

Oba strumienie są tokenizowane na 24 jednogodzinne fragmenty, łączone w 128-wymiarowe tokeny i wzbogacane o cykliczne cechy pory dnia. Wstępne szkolenie wykorzystuje dwa cele w stylu JEPA:

• Maskowane kontekstowe przewidywanie latentne dla 50–60% fragmentów w stosunku do nauczyciela EMA (m = 0.997).
• Przewidywanie dynamiki stanu/zdarzeń następnego fragmentu za pomocą resztkowych głowic przejścia.

Model wykorzystuje również augmentacje danych specyficzne dla CGM, takie jak wahania linii bazowej, spadki podobne do kompresji, decymacja do próbkowania co 15 minut oraz bloki rozłączeń. Encoder to 3-warstwowy Transformer z ukrytym wymiarem 128, 4 głowicami i siecią feed-forward 256, co daje 0.72 miliona trenowalnych i 1.18 miliona wszystkich parametrów. Wstępne szkolenie odbyło się na danych z Wear-CGM, ShanghaiT2DM, Stanford, BIG IDEAs i Colas.

Wyniki i potencjał w praktyce

W testach z rozłączonymi podmiotami, GlucoFM osiągnął 58.8 PR-AUC w porównaniu do 54.7 dla najsilniejszej bazowej linii CGM, co stanowi poprawę o 4.1 punktu (około 7.5% względnie) i 5.8 punktu więcej niż najlepszy wariant GluFormer. Model przewyższył konkurencję w każdej ocenie ryzyka cukrzycy i dysfunkcji komórek beta, a także w 3 z 4 ocen oporności na insulinę. Zajął pierwsze miejsce w 21 z 24 ocen transferu między zbiorami danych.

W prognozowaniu dwugodzinnej poposiłkowej odpowiedzi glikemicznej, GlucoFM osiągnął 21.88 mg/dL MAE (Mean Absolute Error) z pełnym kontekstem, w porównaniu do 22.90 dla najlepszej linii bazowej i 27.69 dla średniej z foldów treningowych, na podstawie 874 zdarzeń posiłkowych od 34 uczestników korzystających z sensorów Dexcom i Libre. Model przewyższył również siedmiodniową regułę progu GMI pod względem makro-F1 o +7.4 punktu na danych Stanford i +17.4 na CGMacros-Dexcom. Co więcej, trenowany na zaledwie 20% korpusu danych, GlucoFM już dorównywał bazowym modelom CGM trenowanym na całym zbiorze.

Zespół badawczy podkreśla, że GlucoFM jest prototypem badawczym i nie został jeszcze zatwierdzony przez żadne organy regulacyjne. Nie jest przeznaczony do diagnozowania, leczenia ani zapobiegania chorobom. Wszystkie oceny mają charakter retrospektywny, a największa kohorta danych treningowych nie jest publiczna. Mimo to, jego architektura i osiągnięcia wskazują na znaczący postęp w dziedzinie analizy danych CGM. Możliwość odtworzenia modelu na pojedynczym procesorze H100 oraz jego zdolność do wnioskowania na urządzeniach mobilnych lub kontenerach CPU sprawia, że jest to przepis na przyszłe, bardziej zaawansowane systemy monitorowania glukozy, dostępne dla każdego zespołu posiadającego odpowiednie dane CGM.

Źródło: marktechpost.com