Fastino wprowadza GLiNER2.5: Nowa architektura ekstrakcji informacji oparta na przewidywaniu granic

Firma Fastino wprowadziła na rynek GLiNER2.5, nową architekturę do ekstrakcji informacji, która ma na celu zmniejszenie luki między kosztownymi, elastycznymi dużymi modelami językowymi a sztywnymi, ale tanimi małymi enkoderami. Kluczową zmianą w GLiNER2.5 jest zastąpienie tradycyjnej enumeracji zakresów przewidywaniem granic, co znacząco wpływa na wydajność i możliwości modelu.

Innowacyjne podejście do ekstrakcji informacji

Dotychczasowe modele GLiNER lokalizowały encje poprzez enumerację kandydatów na zakresy, co oznaczało ocenianie każdej możliwej pary pozycji początkowej i szerokości w stosunku do schematu. To podejście wiązało moc obliczeniową z szerokością zakresu i narzucało sztywne ograniczenia na długość encji. GLiNER2.5 rezygnuje z tej metody. Zamiast tego, model przewiduje wyniki dla pozycji początkowych i końcowych na granicach tokenów, a także wyniki wewnętrzne dla samych tokenów. Dzięki temu możliwe jest usunięcie maksymalnej szerokości encji, obsługa kontekstu o długości 4096 słów oraz utrzymanie liniowej złożoności obliczeniowej w stosunku do długości sekwencji dla ustalonego schematu.

Nowa architektura otwiera również drogę do wspólnego dekodowania encji i relacji, stosowania ograniczeń etykiet między zadaniami oraz atrybutów dla poszczególnych zakresów. Wspólny enkoder przetwarza tekst i zapytania schematu w jednym przebiegu. Następnie etap rzadkich propozycji wybiera najbardziej obiecujące początki i końce dla każdego zapytania i łączy je, bez ograniczeń co do odległości. Ostatecznie, głowica do ponownego rankingu ocenia każdego kandydata, wykorzystując dowody graniczne i zawartość zakresu. Kandydaci na relacje są wybierani z tej samej puli, co upraszcza proces.

Wydajność i dostępność

Zespół Fastino informuje, że obliczenia pozostają liniowe w stosunku do długości sekwencji dla ustalonego schematu i budżetu kandydatów. W testach zero-shot na 16 publicznych zbiorach danych, wielojęzyczny model GLiNER2.5 osiągnął wynik 56.17 w metryce macro F1, nieznacznie przewyższając GLiNER2 (56.09). Największy wzrost wydajności zaobserwowano na zbiorze XNLI, gdzie GLiNER2.5 Multi zanotował skok z 37.55 do 62.30, co stanowi wzrost o 24.75 punktu procentowego. Model GLiNER2.5 Base również poprawił wyniki na Few-NERD (z 47.22 do 55.14) oraz na rumuńskim zbiorze RONEC, języku, dla którego model nie był wcześniej trenowany.

Fastino udostępniło trzy punkty kontrolne GLiNER2.5 na platformie Hugging Face na licencji Apache 2.0. Modele te różnią się liczbą parametrów: 74M, 194M i 287M. Możliwe jest lokalne uruchamianie wnioskowania na procesorach CPU, CUDA lub MPS za pomocą instalacji pip gliner2[local] (wymaga Pythona 3.10+). Obecnie żaden dostawca usług wnioskowania nie hostuje tych punktów kontrolnych, co oznacza, że wdrożenie wymaga samodzielnego hostingu. Wszystkie trzy modele korzystają z tego samego publicznego API i powinny być ładowane za pomocą AutoExtractor, a nie starszego loadera GLiNER2.

Kontekst i znaczenie

Rozwój GLiNER2.5 przez Fastino stanowi istotny krok w ewolucji narzędzi do ekstrakcji informacji. Umożliwienie przetwarzania dłuższych kontekstów i utrzymanie liniowej złożoności obliczeniowej przy jednoczesnym zwiększeniu elastyczności i dokładności, może znacząco obniżyć koszty operacyjne dla zespołów zajmujących się ekstrakcją danych. To sprawia, że zaawansowane możliwości ekstrakcji informacji stają się bardziej dostępne i skalowalne, co jest kluczowe w obliczu rosnącej ilości danych tekstowych wymagających analizy. Architektura ta może znaleźć zastosowanie w wielu branżach, od analizy dokumentów prawnych po przetwarzanie danych medycznych, oferując wydajniejsze i bardziej precyzyjne rozwiązania niż dotychczasowe metody. Michal Sutter, specjalista ds. data science z tytułem magistra z Uniwersytetu w Padwie, podkreśla znaczenie przekształcania złożonych zbiorów danych w użyteczne wnioski, co idealnie wpisuje się w cel GLiNER2.5.

Źródło: marktechpost.com