Badacze z USA: nasz program może przewidzieć czy ktoś jest przestępcą wyłącznie na podstawie zdjęcia twarzy

Badacze z Harrisburg University stwierdzili, że ich oprogramowanie „może przewidzieć, czy ktoś jest przestępcą, wyłącznie na podstawie zdjęcia jego twarzy”.

Jeden z badaczy z Harrisburga, były policjant, napisał: „Zidentyfikowanie przestępcy na podstawie zdjęcia jego twarzy zapewni organom ścigania i innym agencjom wywiadowczym znaczną przewagę w zapobieganiu przestępczości”. Naukowcy zapewnili, że ich oprogramowanie działa „bez uprzedzeń rasowych”.

CZYTAJ TAKŻE: System rozpoznawania twarzy zweryfikuje tożsamość pasażerów pociągów Eurostar

Ale 1700 naukowców nie wierzy w te zapewnienia – napisali oni list otwarty, w którym domagają się, aby badania nie zostały opublikowane. Inicjatorzy akcji, Coalition for Critical Technology, przekonują: „Takie twierdzenia opierają się na nieuzasadnionych przesłankach naukowych, badaniach i metodach, które liczne badania obejmujące nasze dyscypliny obalały na przestrzeni lat”.

Grupa wskazuje na „niezliczone badania” sugerujące, że osoby należące do niektórych mniejszości etnicznych są traktowane ostrzej przez wymiar sprawiedliwości w sprawach karnych, co zniekształca dane na temat tego, jak wygląda “przestępca”.

Komentująca kontrowersje naukowiec-informatyk na Uniwersytecie Cambridge, Krittika D’Silva, powiedziała: „Nieodpowiedzialne jest, aby ktokolwiek myślał, że może przewidzieć przestępcze zachowania wyłącznie na podstawie obrazu twarzy osoby”.

„Konsekwencją tego jest to, że oprogramowanie do przewidywania przestępstw może wyrządzić poważną szkodę – ważne jest, aby badacze i decydenci poważnie potraktowali te kwestie. Liczne badania wykazały, że algorytmy uczenia maszynowego, w szczególności oprogramowanie do rozpoznawania twarzy, mają uprzedzenia rasowe, płciowe i wiekowe” – wskazała, podając za przykład badanie z 2019 r., według którego rozpoznawanie twarzy działa słabo w odniesieniu do kobiet, osób starszych, czarnych i pochodzących z Azji.

CZYTAJ TAKŻE: Może powstać wspólny system rozpoznawania twarzy dla Unii Europejskiej

W drugiej połowie czerwca New York Times opisał sprawę czarnego mężczyzny, który stał się pierwszym znanym przypadkiem bezprawnego aresztowania na podstawie niepoprawnego dopasowania dokonanego przez algorytm rozpoznawania twarzy.

Badania naukowców z Harrisburg University miały znaleźć się w książce wydanej przez Springer Nature, do którego tytułów należy m.in. renomowane czasopismo naukowe Nature. Springer przekazał jednak, ze nie zostały one zaakceptowane do publikacji.

„[Artykuł przeszedł] dokładny proces recenzyjny. Decyzja redaktora serii o odrzuceniu ostatecznego dokumentu została podjęta we wtorek 16 czerwca i oficjalnie przekazana autorom w poniedziałek 22 czerwca”, powiedziała firma w oświadczeniu.

Tymczasem Harrisburg University opublikował własny komunikat prasowy „na wniosek zaangażowanego wydziału”. Przekazano, że artykuł został zaktualizowany „w celu rozwiązania problemów”.

Tymczasem przedstawiciele Coalition for Critical Technology stwierdzili: „wszyscy wydawcy muszą powstrzymać się od publikowania podobnych badań w przyszłości”.

Kresy.pl / BBC / Harrisburg University