Kompleksowa analiza dokumentów z deepDoctection 1.2.x: od układu po ekstrakcję danych

Biblioteka deepDoctection w wersji 1.2.x oferuje narzędzia do stworzenia zaawansowanego potoku analizy dokumentów, który integruje wiele kluczowych funkcji. Obejmuje to detekcję układu, rozpoznawanie struktury tabel, optyczne rozpoznawanie znaków (OCR), rekonstrukcję kolejności czytania, łączenie adnotacji oraz eksport danych w ustrukturyzowanym formacie. Dzięki temu możliwe jest przetwarzanie dokumentów od surowej formy do gotowych do użycia danych w jednym, spójnym procesie.

Konfiguracja i podstawowe funkcje potoku

Proces konfiguracji potoku w deepDoctection rozpoczyna się od jawnego określenia komponentów analitycznych. W ramach przykładu wykorzystano detekcję układu opartą na modelu DocLayNet, rozpoznawanie struktury tabel za pomocą Table Transformer oraz OCR realizowane przez DocTR. Po przetworzeniu dokumentów, biblioteka generuje obiekty Page, które szczegółowo reprezentują tekst, figury, tabele, zależności między elementami, pochodzenie danych oraz kolejność czytania. Możliwe jest również sprawdzenie rejestru modeli deepDoctection w celu weryfikacji używanych modeli układu i wspieranych kategorii dokumentów.

Konfiguracja analizatora obejmuje szereg parametrów, takich jak USE_ROTATOR=False, USE_LAYOUT=True, USE_TABLE_SEGMENTATION=True czy OCR.USE_DOCTR=True. Dzięki temu użytkownik ma pełną kontrolę nad tym, które moduły są aktywne i w jaki sposób dokumenty są przetwarzane. Po zainicjowaniu analizatora, można sprawdzić jego komponenty potoku oraz typy adnotacji, które są generowane.

Inspekcja wyników i rozszerzanie funkcjonalności

Po uruchomieniu skonfigurowanego analizatora na przykładowym pliku PDF, można szczegółowo zbadać uzyskane wyniki. Obejmują one tekst narracyjny, bloki układu w kolejności czytania, kategorie adnotacji, relacje między figurami a podpisami, pochodzenie słów oraz ich ramki ograniczające (bounding boxy). Wykryte tabele są dostępne w formatach HTML, CSV oraz jako pojedyncze reprezentacje komórek, co pozwala na dokładne zbadanie ich strukturyzowanej zawartości. Przykładowo, można sprawdzić liczbę wierszy i kolumn, a także zakresy scalonych komórek.

deepDoctection pozwala również na rozszerzanie jego funkcjonalności poprzez rejestrowanie własnych typów obiektów i implementowanie niestandardowych komponentów potoku. W ramach tutorialu zarejestrowano niestandardowe typy obiektów dla wzmianek pieniężnych (MONEY_MENTIONS), wzmianek dat (DATE_MENTIONS) oraz klasyfikacji typu dokumentu (DOC_FLAVOUR). Następnie zaimplementowano komponent EntityAndFlavourService, który analizuje tekst strony i pokrycie tabel, aby generować te podsumowania na poziomie strony. Dzięki temu, niestandardowe pola podsumowań stają się bezpośrednio dostępne jako atrybuty obiektów Page.

Budowanie niestandardowych potoków i serializacja danych

Biblioteka umożliwia ręczne składanie potoków za pomocą ServiceFactory, łącząc analizę układu, przetwarzanie tabel, OCR, porządkowanie tekstu oraz niestandardowe komponenty. Przykładowy potok został wykonany na obrazie dokumentu finansowego, co pozwoliło na inspekcję wykrytego typu dokumentu, wartości pieniężnych, dat oraz struktury tabeli. Możliwe jest również zastosowanie filtrów wejściowych (inbound filters) oraz cofanie adnotacji wygenerowanych przez wybrane usługi, co daje elastyczność w zarządzaniu procesem analizy.

Na koniec, przetworzone strony można serializować do formatu JSON, zachowując ich strukturalne adnotacje bez osadzania oryginalnych danych obrazu. Pozwala to na łatwe przechowywanie i ponowne ładowanie przetworzonych dokumentów. Adnotacje dokumentów mogą być również przekształcane w uporządkowane fragmenty JSONL, co jest idealne do dalszego wykorzystania w systemach RAG (Retrieval-Augmented Generation) i systemach wyszukiwania. Takie podejście umożliwia efektywne wykorzystanie danych z dokumentów w zaawansowanych aplikacjach AI.

Możliwość tworzenia tak elastycznych i konfigurowalnych potoków w deepDoctection znacząco ułatwia automatyzację przetwarzania dokumentów, co jest kluczowe w wielu branżach, od finansów po zarządzanie danymi. Integracja różnych modeli i możliwość ich rozszerzania sprawia, że narzędzie to staje się potężnym rozwiązaniem dla inteligentnej analizy dokumentów.

Źródło: marktechpost.com