Vsebina te novice lahko koga čustveno vznemiri.
TikTok s svojim sistemom predlaganja vsebin in poslovnim modelom, na katerem temelji, ogroža mlade uporabnike_ce te platforme. Izpostavlja namreč vsebine o depresiji in samomoru, kar bi lahko poslabšalo že obstoječe težave z duševnim zdravjem. To je izpostavljeno v dveh poročilih, ki jih je danes objavila Amnesty International.
Obe poročili – Driven into the Darkness: How TikTok Encourages Self-harm and Suicidal Ideation (Kako TikTok spodbuja samopoškodbeno vedenje in razmišljanje o samomoru, op. prev.) in I Feel Exposed: Caught in TikTok’s Surveillance Web (Počutim se izpostavljeno: ujeti v TikTokovo mreža nadzora, op.prev.) – opozarjata na zlorabo, ki jo otroci in mladostniki_ce doživljajo na TikToku. Obravnavata tudi načine, na katere TikTokov sistem za predlaganje vsebin in poslovni model, na katerem temelji, to zlorabo omogočata.
Ugotovitve so rezultat strokovne raziskave v sodelovanju z našimi partnerji pri Algorithmic Transparency Institute (ATI), inštitutu National Conference on Citizenship in organizaciji AI Forensics.
»Odkritja razkrivajo TikTokove manipulativne in zasvajajoče prakse, namen katerih je uporabnike_ce čim dlje ohranjati na platformi. Prav tako kažejo, da algoritemski sistem za predlaganje vsebin, ki je platformi omogočil hitro uveljavitev po vsem svetu, otroke in mladostnike_ce z že obstoječimi duševnimi težavami izpostavlja veliki nevarnosti,« je povedala Lisa Dittmer, raziskovalka Amnesty International.
Vir »Zate«*
*Vir Zate (angleško: For You feed) je vstopna stran aplikacije TikTok, na kateri se predvajajo predlagane video vsebine.
V strokovni raziskavi je bilo uporabljenih več kot trideset avtomatiziranih uporabniških računov, ki so se izdajali za 13-letnike v Keniji in ZDA, da bi tako ocenili vpliv TikTokovega sistema za predlaganje vsebin na mlade uporabnike_ce. Obenem se je izvajala še ročno vodena simulacija, v kateri so sodelovali po en račun v Keniji, na Filipinih in v ZDA.
Poročilo Driven into the Darkness: How TikTok Encourages Self-harm and Suicidal Ideation natančno opisuje, kako TikTok od svojih mladih uporabnikov_c neomajno zahteva pozornost in s tem predstavlja nevarnost poslabšanja duševnih težav, kot so depresija, tesnobnost in samopoškodbeno vedenje.
TikTokov vir »Zate« je močno personalizirana stran, na kateri si lahko uporabnik_ca ure in ure ogleduje na podlagi algoritmov predlagane vsebine, izbrane glede na to, kaj je sistem prepoznal kot zanimanja uporabnika_ce.
Strokovna raziskava je pokazala, da je po 5-6 urah, preživetih na platformi TikTok, skoraj vsak drugi prikazani posnetek povezan z duševnim zdravjem in potencialno škodljiv, kar je približno desetkrat toliko kot pri računih, ki ne kažejo zanimanja za duševno zdravje.
Ko so raziskovalci lastnoročno ponovno predvajali z duševnim zdravjem povezane posnetke, predlagane testnim uporabniškim računom, ki so se izdajali za 13-letne uporabnike v Keniji, na Filipinih in v ZDA, je še hitreje prišlo do verižnega prikazovanja sorodnih vsebin.
Med tremi in dvajsetimi minutami od začetka naše lastnoročne raziskave je več kot polovica posnetkov v viru Zate že bila povezana z duševnimi težavami, vsako uro pa je več predlaganih posnetkov olepševalo, normaliziralo ali spodbujalo dejanje samomora.
Narejen, da zasvaja
Razprave s ciljno skupino, intervjuji in testni uporabniški računi otrok v Keniji, na Filipinih in v ZDA, pa tudi že obstoječi dokazi s področja raziskav škodljivosti družabnih omrežij in javnega zdravja razkrivajo, kako zasnova platforme TikTok spodbuja nezdravo uporabo aplikacije.
*Luis, 21-letni dodiplomski študent z diagnozo bipolarne motnje iz Manile, je za Amnesty International opisal svojo izkušnjo s TikTokovim virom Zate.
»Hitro te povleče vase, saj se vedno začne z enim samim posnetkom. Ni pomembno, ali ti je bil nek posnetek všeč ali ne; če je pritegnil tvojo pozornost, se ti bo naslednjič, ko boš odprl aplikacijo, ponovno prikazal, ker se ti bo zdel znan, si ga boš ponovno ogledal, njegova pogostost v tvojem viru pa bo s tem skokovito narasla,« je povedal Luis.
*Francis, 18-letni študent iz filipinske province Batangas, je dejal: »Če si ogledam žalosten posnetek, s katerim se lahko poistovetim, postane moj celoten vir Zate žalosten in znajdem se na »Sadtoku[1]«. To vpliva na moje počutje.«
Nek drugi član ciljne skupine je pojasnil: »Zaradi vsebin, ki si jih ogledam, denimo posnetkov, v katerih je nekdo bolan oziroma postavlja diagnozo samemu sebi, začnem [še bolj] čezmerno premlevati stvari. To vpliva na moje mišljenje, začne se mi dozdevati, da imam enake simptome in tako postanem še bolj tesnoben. Pa teh posnetkov sploh ne iščem, preprosto se pojavijo v mojem viru.«
*Joyce, 21-letna ženska s Filipinov, je povedala: »Za nekaj časa sem ga [TikTok] odstranila, saj sem postala zelo zasvojena z njim … toliko ur sem na TikToku samo podrsavala skozi posnetke, saj se nenehno sprašuješ, kaj bo naslednje, kar se bo začelo predvajati.«
Intervjuvani otroci in mladi iz Kenije so izrazili občutek, da TikTok vpliva na njihove študijske obveznosti in čas, preživet v prijateljskem krogu, obenem pa jim zaradi podrsavanja po viru ob poznih večernih urah preprečuje, da bi se dobro naspali.
Pričevanja so podprli različni psihologi za mladostnike, na katere se je Amnesty International obrnila v sklopu raziskave.
Četudi se posamezni odgovori mladih in spremljevalni dejavniki, ki vplivajo na njihovo uporabo družabnih omrežij, lahko razlikujejo, so podobno kot pri drugih družabnih omrežjih tudi pri TikToku svojo platformo tako oblikovali z namenom, da bi uporabniki na njej preživeli čim več časa.
»Naša raziskava kaže, da lahko TikTok otroke in mladostnike_ce izpostavi resnim zdravstvenim težavam s tem, da vztraja pri svojem trenutnem poslovnem modelu, ki je bolj kot k spoštovanju njihovih pravic do zdravja usmerjen k zagotavljanju tega, da njihove oči ostajajo prilepljene na platformo,« je dejala Lisa Dittmer, raziskovalka Amnesty International.
Mreža nadzora
Poročilo I feel Exposed: Caught in TikTok’s Surveillance Web prikazuje, kako TikTokovi pristopi k zbiranju informacij, ki zlorabljajo pravice, podpirajo in se obenem okoriščajo s trendi škodljive uporabe.
Raziskava Amnesty International je pokazala, da je TikTokov poslovni model škodljiv in daje prednost vpetosti uporabnikov_c, da ti ostajajo zasvojeni_e s platformo, s čimer lahko podjetje o njih zbira vedno več informacij. Prav tako TikTok zaščito uporabnikov_c upošteva le v nekaterih delih sveta, kar pomeni, da so nekateri otroci in mladostniki_ce še bolj izpostavljeni_e zbiranju podatkov v namen izkoriščanja kot drugi.
»Z bolj vsiljivim zbiranjem podatkov TikTok cilja uporabnike_ce, vključno z otroki, v tistih delih sveta, kjer imajo ljudje pod lokalnimi zakoni in predpisi o varstvu podatkov manj pravic – to pomeni da so otroci iz držav s šibkejšimi predpisi, kar vključuje veliko držav z večinsko nebelim prebivalstvom, izpostavljeni najhujšim kršitvam svoje pravice do zasebnosti,« je dejala Lauren Armistead, namestnica programske direktorice Amnesty Tech.
»TikTok mora spoštovati pravice vseh svojih mladih uporabnikov_c, ne le evropskih, in po vsem svetu prepovedati ciljno oglaševanje, namenjeno mlajšim od 18 let.«
Prav tako mora TikTok prenehati s samodejno hiperpersonalizacijo vira Zate in uporabnikom_cam dovoliti, da sami_e izberejo, katera izmed njihovih zanimanj naj oblikujejo njim predlagane vsebine glede na zavestno privolitev in odločitev, ali si sploh želijo vira po meri.
Četudi Amnesty International poziva TikTok, naj sprejme nujne ukrepe za uvedbo poslovnega modela, ki bi spoštoval pravice, so prav tako potrebne zavezujoče uredbe, ki bi ščitile in izpolnjevale pravice otrok in mladostnikov_c.
Otroci bodo pred spletnim izkoriščanjem njihovih osebnih podatkov najbolj zaščiteni, če bodo vlade zakonsko prepovedale vsakršno ciljno oglaševanje, ki temelji na agresivnem zbiranju osebnih podatkov.
TikTok se je na naša dognanja odzval s svojimi smernicami skupnosti, ki določajo, kakšne vrste vsebin so prepovedane in odstranjene s platforme, če so prijavljene oziroma kakorkoli drugače odkrite. To vključuje prepoved vsebin, ki »prikazujejo, vzpodbujajo ali nudijo navodila za izvedbo samomora ali samopoškodovanja, ter vse s tem povezane izzive, stave, igre ali dogovore«, »prikazujejo ali vzpodbujajo prevare, povezane s samomorom ali samopoškodovanjem« ter »delijo načrte za izvedbo samomora oziroma samopoškodovanja.«
Pri TikToku so izjavili, da trenutno razvijajo »postopek za ustrezno spoštovanje človekovih pravic, ki bo veljal za celotno podjetje in vključeval izvajanje rednih ocen vpliva na človekove pravice«. V podjetju niso delili podrobnosti o tem, kakšno ogrožanje človekovih pravic otrok in mladih uporabnikov_c so zaznali. Dejstvo, da TikTok trenutno ne izvaja postopkov za ustrezno spoštovanje človekovih pravic, ki bi veljali za celotno podjetje, jasno kaže na to, da se podjetje ne drži svoje odgovornosti spoštovanja človekovih pravic.
Ozadje
Poročili dopolnjujeta dokaze, ki jih je Amnesty International zbrala s predhodnimi poročili na podlagi raziskav. Poročilo z naslovom Surveillance Giants (Velikani nadzora) je razkrilo, da poslovna modela podjetij Facebook in Google nista združljiva s pravico do zasebnosti in ogrožata številne druge pravice, vključno s pravico do svobode izražanja, pravico do svobode mišljenja ter pravico do enakosti in nediskriminacije. Več v slovenščini.
Poročili Amnesty International Myanmar: The social atrocity: Meta and the right to remedy for the Rohingya (Mjanmar: Facebookov sistem je promoviral nasilje nad Rohingami) in Ethiopia: Meta’s failures contributed to abuses against Tigrayan community during conflict in northern Ethiopia razkrivata, kako lahko Facebookov poslovni model, ki temelji na vključenosti uporabnikov_c, vodi do uničujočih posledic, saj promovira skrajne vsebine, ki spodbujajo nasilje, sovraštvo in diskriminacijo ter prispeva k resnim kršitvam in zlorabam človekovih pravic.
Ta poročila prispevajo k vedno večjemu številu dokazov svetovne kampanje Amnesty International za odgovornost podjetij in popravo kršitev človekovih pravic, povezanih s poslovnimi modeli Mete, Googla, TikToka in drugih tehnoloških velikanov, ki temeljijo na nadzoru.
»Na žalost je sodišče zavrnilo nekatere Assangeove argumente, predvsem to, da je bila izročitev politična. Sodišče je postopek prekinilo iz drugih razlogov, da bi lahko ZDA dale diplomatska zagotovila, ki jih bodo nato ponovno preučili.«
»ZDA morajo prenehati s svojim politično motiviranim pregonom Assangea, ki ogroža njegovo svobodo in svobodo medijev po vsem svetu. S tem ko ga poskušajo zapreti, ZDA založnikom in novinarjem povsod pošiljajo nedvoumno opozorilo, da so lahko tudi oni tarče in da zanje ni varno prejemati in objavljati zaupnega gradiva – tudi če je to v javnem interesu.«