Jak to wszystko się zaczęło?
We wrześniu 2021 r. opublikowano nowy raport ONZ. Eksperci badali, jak kraje i firmy
Wczoraj szef ONZ ds. praw człowieka MichelBachelet wezwał do wprowadzenia moratorium na wykorzystywanie technologii sztucznej inteligencji, które stanowią poważne zagrożenie dla praw człowieka. W tym systemy do skanowania osób śledzących osoby w miejscach publicznych. Zauważyła, że kraje powinny natychmiast zakazać zastosowań sztucznej inteligencji, które nie są zgodne z międzynarodowym prawem praw człowieka.
Gdzie stosowanie AI jest niedopuszczalne?
Aplikacje, które mają zostać zbanowaneObejmują one rządowe systemy „oceny społecznej”, które oceniają ludzi na podstawie ich zachowania oraz pewne narzędzia oparte na sztucznej inteligencji, które dzielą ludzi na grupy, takie jak pochodzenie etniczne lub płeć.
Technologie oparte na sztucznymBachelet stwierdziła w oświadczeniu, że inteligencja „może być siłą ku dobremu”, a także może prowadzić do „negatywnych, a nawet katastrofalnych konsekwencji”, jeśli zostanie wykorzystana bez uwzględnienia wpływu, jaki wywiera na prawa człowieka.
„Nie chodzi o brak sztucznościwywiadu” – wyjaśniła reporterom Peggy Hicks, dyrektor ds. interakcji tematycznych w Centrum Praw Człowieka ONZ. Prezentując raport w Genewie, zwróciła się do mediów. „Chodzi o to, że jeśli sztuczna inteligencja ma być wykorzystywana w tych bardzo ważnych obszarach funkcjonalnych związanych z prawami człowieka, to musi to być zrobione prawidłowo. A po prostu nie stworzyliśmy struktury, która zapewnia to.”
Bachelet nie wzywał do całkowitego zakazutechnologię rozpoznawania twarzy, ale zauważył, że rządy powinny zaprzestać skanowania zachowań ludzi w czasie rzeczywistym. Na przykład, aby ocenić wydajność personelu. Musisz upewnić się, że technologia jest dokładna, a sztuczna inteligencja jest bezstronna i spełnia standardy prywatności i ochrony danych.
Raport budzi również obawy dotyczące:instrumenty, które próbują określić stan emocjonalny i psychiczny ludzi, analizując ich mimikę lub ruchy ciała. Eksperci podkreślają, że takie technologie są stronnicze, błędnie interpretowane i nie mają podstaw naukowych.
„Korzystanie z systemów przez organy państwowe”Rozpoznawanie emocji, na przykład podkreślanie osób zatrzymanych lub aresztowanych przez policję lub ocena prawdziwości zeznań podczas przesłuchań, grozi naruszeniem praw człowieka, takich jak prywatność, wolność i sprawiedliwość sądownictwa ”- czytamy w raporcie.
Gdzie jest szczególnie dotkliwy problem korzystania z AI?
Chociaż nazwy konkretnych krajów w raporcienie są wspomniane, warto wspomnieć o Chinach. Przypomnijmy, że w maju władze uruchomiły program testowania kamer rozpoznających emocje na Ujgurach w zachodnim regionie Xinjiangu. I uznanie samych Ujgurów. Przypomnijmy, że już w 2018 roku Human Rights Watch opublikował raport na temat prześladowań ludności muzułmańskiej w chińskim regionie Xinjiang. Według organizacji w ostatnich latach Ujgurowie byli tam masowo i często bez powodu przetrzymywani, umieszczając ich w więzieniach i obozach edukacyjnych; Miliony ludzi są pod stałą obserwacją wideo, a ich status społeczny i los zależą od punktów zgromadzonych w systemie „kredytu społecznego”.
Jednak kluczowi autorzy raportu stwierdzili, że wymienianie konkretnych krajów nie leży w ich kompetencjach i może nawet przynieść efekt przeciwny do zamierzonego.
„W kontekście chińskim, jakw innych kontekstach niepokoimy się przejrzystością i dyskryminującymi aplikacjami skierowanymi do konkretnych społeczności” – wyjaśnia rzeczniczka ONZ Peggy Hicks.
Przytoczyła kilka spraw sądowych w USA i Australii, w których nadużyto sztucznej inteligencji.
Jeden z najgłośniejszych precedensów w Stanach Zjednoczonych -sytuacja z Amazonem. Ta korporacja jest jednym z centrów rozwoju w dziedzinie sztucznej inteligencji. W 2017 roku firma zamknęła pilotażowy projekt rekrutacyjny oparty na sztucznej inteligencji, który prowadziła od prawie trzech lat. Jednym z kluczowych problemów była dyskryminacja kandydatów ze względu na płeć – algorytm nie docenił ocen kandydatek.
Tymczasem w Australii sąd dokonał przełomuprecedens. Systemy sztucznej inteligencji mogą być teraz prawnie uznane za wynalazców we wnioskach patentowych. Jednak nie wszyscy zgodzili się z tą decyzją.
Jaki jest wynik finansowy?
Rekomendacje raportu odzwierciedlają poglądy wieluprzywódcy polityczni w zachodnich demokracjach. Ważne jest nie tylko wykorzystanie ekonomicznego i społecznego potencjału sztucznej inteligencji, ale także rozwianie rosnących obaw dotyczących niezawodności narzędzi, które śledzą i profilują ludzi.
Sekretarz Handlu USA Gina Raimondo podczasWirtualna konferencja w czerwcu wzmocniła obawy urzędników ONZ. „Przerażające jest myśleć o tym, jak można go wykorzystać do dalszego wzmacniania tendencji dyskryminacyjnych” – powiedziała. „Musimy się upewnić, że na to nie pozwalamy”.
Tak więc europejscy regulatorzy są jużpodjęły kroki w celu ograniczenia najbardziej ryzykownych aplikacji AI. Proponowane przepisy, określone w tym roku przez urzędników Unii Europejskiej, zabronią niektórych zastosowań sztucznej inteligencji, takich jak skanowanie twarzy w czasie rzeczywistym, i będą ściśle kontrolować inne zastosowania, które mogą zagrażać bezpieczeństwu człowieka lub prawom człowieka.
Czytać Dalej
Unikalna łódź zamienia się w łódź podwodną w ciągu dwóch minut i jest niewidoczna dla wroga
Fizycy schłodzili atomy do najniższej temperatury na świecie
Najbardziej szczegółowy model Wszechświata został opublikowany w Internecie. Każdy może to studiować