Policja na Florydzie aresztowała mężczyznę na podstawie wskazania systemu AI. Okazało się jednak, że dopasowanie było błędne, co doprowadziło do poważnego naruszenia wolności osobistej.
Szczegóły pozwu z Florydy
Mężczyzna twierdzi, że system sztucznej inteligencji wskazał go jako podejrzanego mimo braku jakichkolwiek dowodów poza analizą obrazu. Błąd dopasowania twarzy doprowadził do zatrzymania i spędzenia kilku dni w areszcie. Sprawa pokazuje, jak bardzo organy ścigania polegają na technologiach, które wciąż popełniają poważne pomyłki.
Sąd będzie musiał ocenić, czy użycie algorytmu bez dodatkowej weryfikacji narusza prawa obywatelskie. Pozwany departament policji utrzymuje, że oprogramowanie było jedynie narzędziem wspomagającym, a nie jedynym dowodem. W praktyce jednak decyzja o aresztowaniu zapadła bardzo szybko po wskazaniu przez system.
Jak działa rozpoznawanie twarzy w policji
Algorytmy porównują zdjęcie z monitoringu z bazą zdjęć osób zatrzymanych i poszukiwanych. Proces wymaga wysokiej jakości obrazu i dobrego oświetlenia, co w praktyce rzadko występuje. Niska jakość nagrań zwiększa ryzyko fałszywych trafień.
Policjanci często traktują wynik algorytmu jako wiarygodny punkt wyjścia do dalszych czynności. Brak obowiązku dodatkowej weryfikacji przez człowieka prowadzi do sytuacji, w których niewinni ludzie trafiają za kratki. Eksperci podkreślają, że systemy te nie są jeszcze gotowe do samodzielnego decydowania o wolności osobistej.
Problemy z dokładnością algorytmów
Testy niezależnych laboratoriów pokazują, że wskaźnik błędów w warunkach rzeczywistych bywa znacznie wyższy, niż deklarują producenci. Różnice w oświetleniu, kącie ujęcia czy wieku twarzy powodują spadki skuteczności. Błędne wskazania pozytywne stanowią realne zagrożenie dla niewinnych osób.
Firmy tworzące oprogramowanie rzadko publikują pełne dane o błędach w zróżnicowanych grupach demograficznych. Utrudnia to ocenę ryzyka przez organy ścigania. W efekcie policja w wielu stanach używa narzędzi, których ograniczenia nie są w pełni znane.
Wpływ na prywatność obywateli
Masowe skanowanie twarzy w przestrzeni publicznej budzi poważne wątpliwości prawne. Ludzie tracą kontrolę nad tym, kto i w jaki sposób przetwarza ich wizerunek. Brak regulacji federalnych pozwala stanom na swobodne wdrażanie takich systemów.
Podobne przypadki już wcześniej pojawiały się w innych częściach kraju. Jeden z nich dotyczył kanadyjskiego muzyka, który stracił pracę przez fałszywe oskarżenie wygenerowane przez algorytm. Historia skrzypka pokazuje skalę problemu.
Podobne incydenty w innych stanach
W Minnesocie wprowadzono surowe kary za nielegalne użycie aplikacji AI do generowania treści naruszających prywatność. Nowe przepisy pokazują kierunek, w jakim mogą pójść regulacje dotyczące błędów algorytmów.
Na Florydzie sprawa ta może stać się precedensem dla kolejnych pozwów. Jeśli sąd uzna winę policji, inne departamenty będą musiały zmienić procedury weryfikacji wyników AI.
Co czeka nas w najbliższych latach
Bez jasnych standardów dokładności i obowiązku weryfikacji przez człowieka podobne błędy będą się powtarzać. Producenci obiecują poprawę, ale rzeczywiste testy pokazują powolny postęp. Ryzyko błędnych aresztowań pozostaje wysokie przy obecnym poziomie technologii.
Organy ścigania muszą zacząć traktować wyniki algorytmów jako wskazówkę, a nie dowód. Dopóki nie pojawią się wiążące regulacje, obywatele będą zdani na łaskę niedoskonałych systemów.
Źródła:
The Guardian, Ars Technica, Wired