Setki kontraktorów OpenAI czyta rozmowy użytkowników ChatGPT w celu ulepszania modelu

Śledztwo przeprowadzone przez 404 Media ujawniło, że OpenAI zatrudnia setki kontraktorów, którzy analizują rzeczywiste rozmowy użytkowników ChatGPT. Celem tego procesu jest ulepszanie odpowiedzi chatbota. Informacje te pochodzą z wewnętrznych dokumentów, do których dotarło 404 Media, oraz od dodatkowych źródeł.

Jak działa proces recenzowania

Recenzenci oceniają odpowiedzi ChatGPT w skali od jednego do siedmiu. Ich zadaniem jest redukcja nadmiernej uprzejmości oraz ludzkich zachowań w generowanych przez model tekstach. Jeden z recenzentów w rozmowie z 404 Media wyraził przekonanie, że użytkownicy nie są świadomi, iż ich czaty są czytane przez ludzi. Potwierdzają to również same przeglądane prompt'y, w których niektórzy użytkownicy wyraźnie prosili ChatGPT o zachowanie prywatności treści. Choć prompt'y są anonimizowane, mogą nadal zawierać wrażliwe dane osobowe. OpenAI stosuje filtr prywatności, jednak firma przyznaje, że może on popełniać błędy.

Kontraktorzy są rekrutowani za pośrednictwem firmy Crossing Hurdles i opłacani przez Mercor, firmę szkoleniową w dziedzinie AI. Jeden z recenzentów z Ameryki Północnej poinformował, że zarabia ponad 50 dolarów za godzinę.

Ustawienia prywatności i świadomość użytkowników

Użytkownicy mogą wyłączyć domyślnie włączone ustawienie „Ulepsz model dla wszystkich”, aby ich czaty nie były wykorzystywane do treningu modelu i potencjalnie przeglądane przez ludzi. Należy jednak pamiętać, że to ustawienie dotyczy wyłącznie nowych konwersacji. OpenAI oferuje również tymczasowy tryb czatu, który, według firmy, nie wykorzystuje danych wejściowych do treningu modelu.

Zapytane przez 404 Media o to, gdzie użytkownicy są wyraźnie informowani o ludzkiej recenzji, OpenAI początkowo nie odpowiedziało. Na stronie FAQ firmy znajduje się informacja, że upoważniony personel i dostawcy usług mogą przeglądać dane użytkowników w celu poprawy wydajności modelu, a także zalecenie, aby nie wprowadzać wrażliwych informacji. To powiadomienie jest dostępne online co najmniej od 2023 roku i na przestrzeni lat uległo jedynie niewielkim zmianom.

404 Media argumentuje, że ujawnienie tych informacji jest zbyt ukryte i zbyt niejasne, aby użytkownicy byli świadomi faktycznego zakresu ludzkiej recenzji. Stwierdzenie „Ulepsz model dla wszystkich” brzmi bardziej jak zachęta do wkładu w społeczność niż zgoda na to, by ludzie czytali rozmowy. Prawdopodobnie takie nieprecyzyjne sformułowanie jest celowe. Gdyby OpenAI prosiło o wyraźną zgodę, wskaźnik rezygnacji byłby prawdopodobnie wysoki.

Powszechność praktyki w branży AI

Humanitarna informacja zwrotna jest kluczowym elementem ulepszania modeli AI dla laboratoriów. Praktyka ta jest również szeroko rozpowszechniona w branży. Anthropic potwierdziło 404 Media, że wykorzystuje ludzkich recenzentów do sprawdzania odpowiedzi swojego chatbota Claude i ulepszania przyszłych modeli. Dotyczy to użytkowników, którzy mają włączone ustawienie „Pomóż ulepszyć nasze modele AI” w swoich ustawieniach prywatności. Anthropic również anonimizuje rozmowy przed recenzją, usuwając dane konta, takie jak adresy e-mail. Google również korzysta z ludzkich recenzentów i zaznacza w Gemini, że ludzie mogą przeglądać zapisane czaty.

Ujawnienie tej praktyki przez 404 Media podkreśla napięcie między potrzebą ulepszania modeli sztucznej inteligencji a prawem użytkowników do prywatności. Chociaż ludzka recenzja jest uznawana za niezbędną do rozwoju zaawansowanych systemów AI, transparentność i jasne informowanie o zakresie zbierania i analizy danych stają się kluczowe dla budowania zaufania w erze coraz bardziej inteligentnych technologii.

Źródło: the-decoder.com