V Amnesty International pred glasovanjem v Evropskem parlamentu pozivamo k prepovedi rasističnih in diskriminatornih sistemov profiliranja, katerih tarča so migranti_ke in druge marginalizirane skupine. Glasovanje, ki bo potekalo 14. junija, bo potrdilo končno stališče o aktu Evropske unije o umetni inteligenci.
Evropski parlament pozivamo, naj v aktu o umetni inteligenci – prelomnem zakonodajnem aktu – prepove uporabo tehnologij množičnega nadzora, kot so orodja za retrospektivno biometrično identifikacijo in identifikacijo na daljavo.
Raziskave AI kažejo, da tehnologija prepoznavanja obrazov krepi rasistično in diskriminatorno kazensko preganjanje, vključno s praksami ustavljanja in preiskovanja. To pa nesorazmerno bolj prizadene predvsem temnopolte ljudi. Omenjene prakse se uporabljajo tudi za preprečevanje in omejevanje gibanja migrantov_k in prosilcev_k za azil.
»Obstaja nevarnost, da bo Evropski parlament razveljavil precejšnjo zaščito človekovih pravic, ki je bila dosežena med glasovanjem v odboru 11. maja, in tako odprl vrata uporabi tehnologij, ki so v neposrednem nasprotju z mednarodnim pravom človekovih pravic,« je dejal Mher Hakobyan, svetovalec Amnesty International za zagovorništvo na področju umetne inteligence.
Države članice se v svojih prizadevanjih za utrjevanje zidov »trdnjave Evrope« vse bolj zatekajo k uporabi nevarnih tehnologij, da bi olajšale zlorabe migrantov_k, beguncev_k in prosilcev_k za azil na svojih mejah.
»Glede na to, da je okolje še vedno tako neprijazno do ljudi, ki bežijo pred vojnami in konflikti ali iščejo boljše življenje, je ključnega pomena, da Evropski parlament ne spregleda škode, ki jo povzročajo rasistični sistemi umetne inteligence. Zakonodajalci morajo prepovedati rasistične sisteme profiliranja in ocenjevanja tveganja, ki migrante_ke in prosilce_ke za azil označujejo kot ‘grožnje’, ter tehnologije napovedovanja, ki predvidevajo gibanje na mejah in ljudem odrekajo pravico do azila,« je dodal Mher Hakobyan.
Zakon o umetni inteligenci lahko pomaga preprečevati in zmanjševati škodo, ki jo povzročajo nove tehnologije v Evropi, vendar je ključnega pomena, da EU ne prispeva k kršitvam človekovih pravic z izvozom drakonskih tehnologij zunaj svojega ozemlja. Zakon o umetni inteligenci mora prepovedati izvoz vseh sistemov, ki se v EU ne smejo uporabljati, to je npr. prepoznavanje obrazov in druge nadzorne tehnologije.
Raziskava Amnesty International je pokazala, da se kamere nizozemskega podjetja TKH Security uporabljajo na javnih površinah in v policiji v okupiranem Vzhodnem Jeruzalemu, da bi okrepile izraelski nadzor nad palestinskim prebivalstvom in izraelski sistem apartheida.
Podobne raziskave so razkrile tudi, da so podjetja s sedežem v Franciji, na Švedskem in Nizozemskem, ključnim akterjem kitajskega aparata množičnega nadzora prodajala digitalne nadzorne sisteme, kot so tehnologija za prepoznavanje obrazov in omrežne kamere. V nekaterih primerih je bila infrastruktura, ki jo je izvozila EU, uporabljena proti Ujgurom in drugim pretežno muslimanskim etničnim skupinam po vsej državi.
»Evropski parlament je dolžan zagovarjati človekove pravice. Vse, kar ni popolna prepoved tehnologij, ki se uporabljajo za množični nadzor, rasistično policijsko delo in profiliranje, bi pomenilo neizpolnjevanje te dolžnosti,« je dejal Mher Hakobyan. »Zakonodajalci EU morajo zagotoviti tudi, da se tehnologije, ki so prepovedane v EU, ne izvažajo za kršenje človekovih pravic drugje. Ta zakonodaja mora ščititi in spodbujati človekove pravice vseh ljudi, ne le ljudi v Evropi.«
Ozadje
Evropska komisija je 21. aprila 2021 predlagala zakonodajo, ki ureja uporabo umetne inteligence. Svet EU, ki ga sestavljajo vlade držav članic EU, je svoje stališče sprejel decembra 2022. Evropski parlament mora 14. junija opraviti končno glasovanje za oblikovanje uradnega stališča, nato pa se bosta morali obe instituciji skupaj z Evropsko komisijo dogovoriti o skupnem besedilu.
Amnesty International v okviru koalicije organizacij civilne družbe pod vodstvom Evropske mreže za digitalne pravice (EDRi) poziva k uredbi EU o umetni inteligenci, ki bo varovala in spodbujala človekove pravice
Related Content
