Agenci AI jako „współpracownicy” obniżają skuteczność ludzkiej pracy

Firmy technologiczne, w tym Microsoft, OpenAI, Anthropic i Google, promują agentów sztucznej inteligencji jako cyfrowych współpracowników o elastyczności i zdolnościach poznawczych zbliżonych do ludzkich. Jednak, jak wynika z badań, takie podejście może prowadzić do poważnych problemów, obniżając skuteczność ludzkich pracowników w wykrywaniu błędów i skłaniając ich do zrzucania odpowiedzialności na maszyny. Marketing agentów AI jako „współpracowników” nie tylko tworzy nierealistyczne oczekiwania, ale także negatywnie wpływa na ludzką wydajność i poczucie odpowiedzialności.

Wpływ nazewnictwa na wydajność pracy

Emma Wiles, profesor biznesu z Boston University, przeprowadziła badanie, które wykazało, że sposób, w jaki postrzegamy narzędzia AI, ma kluczowe znaczenie. Uczestnicy badania, którzy traktowali narzędzie AI jako „pracownika AI”, wykrywali o 18% mniej błędów w porównaniu do tych, którzy postrzegali je jako zwykłego chatbota. To sugeruje, że nazewnictwo i przypisywanie cech ludzkich sztucznej inteligencji może prowadzić do obniżenia krytycznego myślenia i czujności u ludzi. Niemal jedna trzecia z 1261 menedżerów uczestniczących w badaniu Wiles stwierdziła, że ich firmy już teraz przedstawiają agentów AI jako pracowników, a 23% nawet umieszcza ich na schematach organizacyjnych.

Zrzucanie odpowiedzialności i nierealistyczne oczekiwania

Badania Wiles wskazują również, że gdy narzędzie AI było przedstawiane jako pracownik, uczestnicy badania czuli się mniej odpowiedzialni za jego wyniki. Byli również o 44% bardziej skłonni do eskalowania wątpliwych wyników do menedżera, zamiast samodzielnie je korygować. To podważa podstawowy cel używania agentów AI, jakim jest oszczędność czasu. Daron Acemoglu, ekonomista z MIT i laureat Nagrody Nobla z 2024 roku, podkreśla, że agenci AI są obecnie często promowani jako zamienniki dla ludzi, co jest „przegraną propozycją”. Zamiast tego powinni być optymalizowani tak, aby wzmacniać ludzkie zdolności, a nie je zastępować.

Konsekwencje poza biurem

Ryzyko związane z błędnym postrzeganiem agentów AI wykracza poza kulturę biurową. W miarę jak agenci AI są wdrażani w sektorach takich jak opieka zdrowotna, wojskowość, edukacja i administracja publiczna, rośnie zagrożenie, że staną się one wygodnym kozłem ofiarnym dla porażek wynikających z błędnych ludzkich decyzji, niewłaściwych zachęt i niedostatecznego nadzoru. Przykładem może być incydent z nalotem bombowym na szkołę dla dziewcząt w Iranie, który przypisano modelowi Claude, mimo że wszystkie dowody wskazywały na kaskadę ludzkich błędów. To pokazuje, jak łatwo jest zrzucić winę na technologię, zamiast analizować systemowe problemy.

Optymalizacja AI dla wzmocnienia ludzkich zdolności

Alternatywne podejście do integracji AI z pracą zostało zaprezentowane w Stanford, gdzie badacze przedstawili 1500 pracownikom w 104 zawodach informacje o tym, jakie zadania AI mogłaby potencjalnie wykonać w ich pracy. Następnie zapytano ich, co byłoby najbardziej pomocne i produktywne. Pracownicy wyrażali chęć automatyzacji w niektórych obszarach, na przykład asystenci prawni widzieli potencjał AI w monitorowaniu postępów w sprawach. Jednak często zadania, które eksperci techniczni uznawali za najbardziej odpowiednie dla AI – takie jak weryfikacja zdolności kredytowej klientów dla przedstawicieli handlowych – były tymi, których sami pracownicy zdecydowanie nie chcieli ani nie potrzebowali, aby agent AI wykonywał. To podkreśla potrzebę głębszego zrozumienia rzeczywistych potrzeb użytkowników i projektowania narzędzi AI, które faktycznie wspierają, a nie zastępują ludzką pracę. Traktowanie agentów AI jako „współpracowników” jest przede wszystkim działaniem marketingowym, które nie czyni narzędzia bardziej odpowiednim do pracy, a wręcz przeciwnie – sprawia, że ludzie wokół niego wykonują swoją pracę gorzej, co ostatecznie szkodzi efektywności i odpowiedzialności w organizacji.

Źródło: technologyreview.com