Nekontrolované zavádzanie technológií do systémov sociálneho zabezpečenia ohrozuje ľudské práva

Amnesty International vo svojej krátkej výskumnej správe upozorňuje, že zavádzanie digitálnych technológií (vrátane umelej inteligencie, automatizácie a prideľovania sociálnej pomoci na základe na algoritmov) do systémov sociálneho zabezpečenia prehlbuje sociálne nerovnosti na celom svete. Organizácia zdôrazňuje, že pri zavádzaní týchto technológií musia vlády konať transparentnejšie a lepšie chrániť ľudské práva. Cieľom publikácie je poukázať na vznikajúce ľudskoprávne riziká a poskytnúť odporúčania užitočné pri zmierňovaní týchto hrozieb. Výskumná pracovníčka Amnesty International pre technológie, hospodárske, sociálne a kultúrne práva, Imogen Richmond-Bishop, upozorňuje na riziká, ktoré tieto technológie so sebou prinášajú.

„Od Srbska cez Indiu až po Holandsko vlády tieto technológie oslavujú ako špičkové riešenia na dosiahnutie lepšieho rozdelenia zdrojov, zlepšenie administratívnych systémov, odhaľovanie podvodov a zvýšenie bezpečnosti. Výskum Amnesty International však ukazuje, že ničím nebrzdená digitalizácia systémov sociálneho zabezpečenia predstavuje mnohé ľudskoprávne riziká a prehlbuje sociálne nerovnosti.

Tvárou v tvár viacerým globálnym krízam, spôsobeným okrem iného konfliktmi, klimatickou krízou a pandémiou Covid-19, sú robustné systémy sociálneho zabezpečenia dôležitejšie ako kedykoľvek predtým. Tieto systému majú za úlohu chrániť jednotlivcov a komunity pred neistotou príjmu,“ uviedla Imogen Richmond-Bishop.

Sociálne zabezpečenie v digitálnom veku: Srbský register sociálnych kariet
Krátka výskumná správa s názvom Sociálne zabezpečenie v digitálnom veku poukazuje na ľudskoprávne riziká nekontrolovaného využívania digitálnych technológií.

Príkladom poloautomatizovaného systému prideľovania sociálnych dávok a poskytovania ďalšej pomoci, ktorý vedie k diskriminácií marginalizovaných skupín populácie, je aj srbský register sociálnych kariet. Technológiu v krajine zaviedli bez primeraných opatrení alebo ľudskoprávnych záruk. Tým negatívne vplýva predovšetkým na rómske komunity a osoby so zdravotným znevýhodnením.

Systém rozšíril existujúcu diskrimináciu a vytvoril ďalšie prekážky v prístupe k sociálnemu zabezpečeniu. Mnohým ľuďom na základe nekvalitných zdrojových údajov, z ktorých systém čerpá, odňali beztak skromnú peňažnú pomoc. Tým im obmedzili prístup k základným tovarom a službám vrátane potravín a liekov.

Sociálne zabezpečenie v digitálnom veku: Indický biometrický identifikačný systém Aadhaar
Obyvateľstvo Indie vrátane detí využíva biometrický identifikačný systém Aadhaar. Systém každému občanovi, resp. rezidentke, prideľuje jedinečné identifikačné číslo, ku ktorému sa viažu údaje o totožnosti. Na základe informácií v systéme Aadhaar ľudia získavajú sociálne dávky, potravinovú pomoc a ďalšie formy sociálnej podpory. Tento proces sa vykonáva výlučne digitalizovanými metódami. Novinári, výskumníčky a ďalší aktéri občianskej spoločnosti zdokumentovali, ako automatizácia systému viedla k vylúčeniu mnohých ľudí zo systému sociálneho zabezpečenia.

„Je nevyhnutné, aby štáty pred zavedením technológií do systémov sociálneho zabezpečenia dôkladne zvážili ich potenciálne negatívny vplyv na ľudské práva. Zavedenie akýchkoľvek technológií musí sprevádzať nezávislé a dôkladné posúdenie vplyvu na ľudské práva. To sa týka celého životného cyklu systému, od návrhu až po zavedenie. Okrem toho musia úrady zaviesť účinné opatrenia na zmiernenie rizík, ktoré sa nedajú úplne odstrániť.

„Štát musí akékoľvek zmeny v životne dôležitých systémoch sociálneho zabezpečenia konzultovať s komunitami, ktoré systém ovplyvňuje. Zmeny im zároveň úrady musia oznámiť jasným a prístupným spôsobom. Ak štát zistí, že systém môže potenciálne potláčať ľudské práva a týmto následkom nie je možné účinne zabrániť, štát systém nesmie zaviesť,“ doplnila Imogen Richmond-Bishopová.

Kontext
Výskum Amnesty International V pasci automatizácie: Chudoba a diskriminácia v srbskom sociálnom systéme z roku 2023 dokumentuje, ako nedokonalý automatizovaný systém poskytovania sociálnej pomoci financovaný Svetovou bankou zasahuje komunity ohrozené chudobou a vylúčením v Srbsku. Rómovia a osoby so zdravotným postihnutím, neboli schopní platiť účty, dať si jedlo na stôl a mali problém vyjsť s peniazmi po tom, ako boli po zavedení registra sociálnych kariet vyradení z podpory sociálnej pomoci.

V roku 2021 Amnesty International zdokumentovala, ako algoritmický systém používaný holandskými daňovými úradmi rasovo profiloval príjemcov a príjemkyne rodičovských príspevkov. Systém mal overovať oprávnenosť žiadostí o rodičovské dávky. Namiesto toho však nesprávne potrestal tisíce rodičov z nízkopríjmových a prisťahovaleckých rodín, čím ich uvrhol do neúmerných dlhov a chudoby.

👎: kntsz

Mohol si to trošku jednoduchšie a s vlastným názorom do diskusie.
Ja to napíšem inak:
Štátne orgány vytvárali a vytvárajú milión opatrení, na to, aby obmedzovali bežných ľudí napr. pri parkovaní aj keď tým človek nikoho neobmedzuje, aby mal každé 2 roky STK aj keď auto nemá žiadnu chybu a naopak iní jazdia len s jedným svetlom alebo s otočenou žiarovkou kedy jedno svetlo svieti dialkovo a jedno tlmene, a spústa iných blbosti......
Na druhej strane nie je štát schopný odchytiť z priestoru internetu a mobilov vagabundov, ktorí zarábajú na klamstvách ľudí, že im dcéra havarovala, že im predávajú plechové hrnce namiesto nerezových,....... a to teraz nastupuje možnosť s pomocou umelej inteligencie napodobniť hlas aj obraz človeka z rodiny a klamať a podvádzať ako na bežiacom páse.
Každý, kto ovláda - dokáže používať, tieto "výdobytky" technológií, by mal byť evidovaný, by mal byť skúšaný s posudzovaním jeho minulosti min. tak, ako keď žiada o zbrojný preukaz.
Škody spôsobené umelou inteligenciou pritom môžu byť väčšie ako strelnou zbraňou....

právnik Marián má pedofilné črty a chce urobiť svadbu mne a tebe, právnik Marián je z Prešova

čipujú ľudí do brucha a ruky, kto chce žiť bez čipu musí vypiť dve litre tekutín za 10 hodín, sledovací čip sa roztopí

vedeli ste milé deti, že steve jobs je neplatič, sociológ a vie po slovensky