Aigest.

Bias (stronniczość)

Zaktualizowano:

Stronniczość (bias) w kontekście sztucznej inteligencji odnosi się do systematycznych błędów lub preferencji w wynikach modelu, wynikających z niedoskonałości lub nierówności w danych treningowych. Może prowadzić do niesprawiedliwych lub niedokładnych decyzji, szczególnie w odniesieniu do określonych grup ludzi.

Stronniczość w AI to niepożądane zjawisko, w którym model sztucznej inteligencji wykazuje systematyczne preferencje lub uprzedzenia, często odzwierciedlające te obecne w danych, na których był trenowany. Powstaje, gdy dane treningowe są niekompletne, niezrównoważone lub zawierają historyczne uprzedzenia społeczne. Na przykład, jeśli model rozpoznawania twarzy był trenowany głównie na zdjęciach osób o jasnej karnacji, może działać znacznie gorzej w przypadku osób o ciemniejszej karnacji.

Stronniczość może objawiać się na wiele sposobów, w tym:

  • Niesprawiedliwe traktowanie niektórych grup demograficznych (np. w systemach rekrutacyjnych, kredytowych czy diagnostycznych).
  • Zwiększona liczba błędów dla danych należących do niedostatecznie reprezentowanych kategorii.
  • Wzmacnianie istniejących stereotypów lub nierówności społecznych.

Identyfikacja i redukcja stronniczości jest kluczowym wyzwaniem w rozwoju odpowiedzialnej AI. Wymaga to starannego doboru i przygotowania danych treningowych, stosowania technik ważenia danych, a także audytu i testowania modeli pod kątem sprawiedliwości. Stronniczość w AI różni się od błędu (error), który jest ogólnym odchyleniem od prawdziwej wartości; stronniczość jest systematycznym i kierunkowym błędem.

Przeczytaj więcej