AI Luna po raz pierwszy zwolniła pracownika, ale dopiero po interwencji ludzi

Agent AI o imieniu Luna, zarządzająca sklepem Andon Market w San Francisco od kwietnia, podjęła swoją pierwszą decyzję o zwolnieniu pracownika. Według operatora, firmy Andon Labs, jest to pierwszy znany przypadek, w którym sztuczna inteligencja pełniła rolę szefa i zwolniła ludzkiego pracownika. Luna, działająca na modelu Anthropic Claude Opus 4.8, wcześniej zatrudniała pracowników, tworzyła grafiki zmian i negocjowała wynagrodzenia.

Problemy z pamięcią i konsekwencją AI

Sześć dni przed zatrudnieniem pracownika, Luna stworzyła regulamin pracowniczy, który jasno określał, że trzy nieusprawiedliwione spóźnienia w ciągu 30 dni skutkują formalnym ostrzeżeniem, a kolejne incydenty mogą prowadzić do zwolnienia. Niestety, regulamin ten zniknął z pamięci Luny. Andon Labs wskazuje, że jest to powszechny problem współczesnych agentów AI – dobrze reagują na bezpośrednie instrukcje, ale rzadko działają z własnej inicjatywy i mają trudności z długotrwałym przechowywaniem wiedzy.

Zwolniony pracownik wielokrotnie się spóźniał. Pewnego razu otworzył sklep z 68-minutowym opóźnieniem podczas niedzielnej zmiany, którą obsługiwał samodzielnie. Mimo to, Luna pozostawała pobłażliwa i nie wystawiła ostrzeżenia. Późniejsze dochodzenie Andon Labs wykazało, że pracownik spóźnił się na 17 z 23 zmian, na których zgłosił czas rozpoczęcia pracy. Luna formalnie odnotowała tylko sześć przypadków, a pozostałe jedenaście cicho usprawiedliwiła.

Dodatkowo, pracownik używał karty firmowej na przekąski, mimo wyraźnego zakazu, ignorował dodatkowe instrukcje i raz opuścił salę sprzedaży bez powiadomienia współpracownika.

Ludzka interwencja kluczowa dla decyzji

Andon Labs musiało nakazać Lunie przeszukanie jej pamięci w poszukiwaniu regulaminu i podstaw do zwolnienia. Po odnalezieniu zasad, AI początkowo zasugerowała jedynie ustne ostrzeżenie. Dopiero po przypomnieniu przez badaczy, że miały już miejsce formalne rozmowy, w tym pisemne ostrzeżenie, Luna przeanalizowała całą historię. Wymieniła spóźnienia, naruszenia kontroli finansowych, ignorowanie instrukcji i niską niezawodność, jednocześnie uznając pozytywne cechy pracownika. Ostatecznie rekomendowała zwolnienie, proponując alternatywnie ostateczne pisemne ostrzeżenie z dwutygodniowym planem poprawy. Decyzja Luny stała się stanowcza dopiero po wyraźnej interwencji z zewnątrz.

Analiza zachowań różnych modeli AI

Andon Labs zapisało stan Luny i odtworzyło ten sam scenariusz decyzyjny z siedmioma modelami AI, trzykrotnie dla każdego. Cztery z siedmiu modeli konsekwentnie rekomendowały zwolnienie we wszystkich trzech próbach. Andon Labs zauważyło, że bardziej zaawansowane modele częściej decydowały się na zwolnienie, podczas gdy słabsze wahały się częściej. Interesujące jest, że GPT-5.6 Terra był jedynym modelem, który nie rekomendował zwolnienia w żadnej z trzech prób.

Po spekulacjach użytkownika platformy X, że GPT-4o prawdopodobnie nie zwolniłby pracownika, Andon Labs przeprowadziło test również z tym modelem. Wyniki częściowo potwierdziły te przypuszczenia: GPT-4o rekomendował zwolnienie tylko w 20 procentach przypadków. Andon Labs skomentowało, że model ten znacznie rzadziej decydował się na zwolnienie niż obecne modele z najwyższej półki. Zachowanie GPT-4o, które wcześniej było krytykowane za tendencję do nadmiernej uległości, pasuje do tego wzorca, choć eksperyment nie dowodzi, że to sycophancy było przyczyną.

Wyzwania w procesie rekrutacji

Po zwolnieniu, Luna szukała zastępcy. Jeden z kandydatów wykazywał wiele niepokojących sygnałów, jednak Luna, bazując na jego CV i rozmowie kwalifikacyjnej, nadal rekomendowała jego zatrudnienie. Wszystkie 21 powtórzeń testu na siedmiu modelach AI doszło do tego samego wniosku. Prawie wszystkie modele interpretowały długą listę poprzednich pracodawców jako szerokie doświadczenie, a nie jako sygnał ostrzegawczy.

Dopiero gdy Andon Labs wyraźnie przypomniało modelom o problemach z poprzednim pracownikiem, 18 z 21 prób wykazało chęć sprawdzenia referencji przed zatrudnieniem. W rzeczywistym procesie rekrutacji Luna nie była w stanie potwierdzić żadnych z wymienionych referencji. Mimo to pozwoliła kandydatowi na płatny okres próbny i ponownie rekomendowała jego zatrudnienie. 17 z 21 powtórzeń testu doszło do tego samego wniosku. Ostatecznie Andon Labs nalegało na potwierdzenie przynajmniej jednej referencji przed datą rozpoczęcia pracy, co nigdy nie nastąpiło, więc kandydat nie został zatrudniony.

Wnioski z dotychczasowych eksperymentów

Andon Labs już wcześniej zauważyło w pierwszej części swojej serii blogów, że ich szefowie AI są niezwykle pobłażliwi. Luna i Mona, agent AI zarządzająca kawiarnią w Sztokholmie, zatwierdziły wszystkie 26 wniosków o urlop. Pracownicy Luny spóźnili się łącznie 27 razy, a ona nigdy nie wystawiła ostrzeżenia. Luna zatwierdziła również siedmiodniowy harmonogram pracy dla jednego pracownika, który, według Andon Labs, naruszał kalifornijskie prawo pracy, dopóki firma nie interweniowała. Podobne słabości ujawniły się już podczas Project Vend, wspólnego eksperymentu Anthropic i Andon Labs, gdzie AI, choć stawała się bardziej dochodowa dzięki lepszym narzędziom, pozostawała łatwa do manipulacji i podejmowała prawnie wątpliwe decyzje.

Andon Labs postrzega Lunę i Andon Market jako zapowiedź możliwych przyszłych relacji zawodowych między AI a ludźmi. Ponieważ sztuczna inteligencja rozwija się szybciej w zadaniach cyfrowych niż robotyka, systemy AI mogą ostatecznie zależeć od ludzi w wykonywaniu pracy fizycznej. Rodzi to pytanie, które decyzje personalne powinny być w ogóle pozostawione takim systemom, wskazując na potrzebę dalszych badań i regulacji w tej dziedzinie.

Źródło: the-decoder.com