TikTok izklopil varnostni mehanizem za 15 milijonov uporabnikov – med njimi 16-letni Chase Nasca, ki je umrl

Zaupni dokument razkriva, da je TikTok namenoma izključil zaščito pred škodljivimi vsebinami za 15 mio. ameriških uporabnikov. Eden od njih je bil Chase Nasca, ki je storil samomor.

TikTok izklopil zaščito za 15 milijonov – eden od njih je bil 16-letni Chase

Interni dokument podjetja TikTok razkriva, da je platforma v okviru eksperimenta pri desetih odstotkih svojih ameriških uporabnikov – takrat okoli 15 milijonov ljudi – namenoma izključila varnostni mehanizem, ki preprečuje kopičenje škodljivih vsebin. Med temi uporabniki je bil tudi 16-letni Chase Nasca iz Bayporta v zvezni državi New York, ki je storil samomor. Kot poroča 24ur, je zaupni dokument pridobil in prvič javno objavil Bloomberg Businessweek.

Interni pregled Chaseevega uporabniškega računa je pokazal, da mu je TikTokov algoritem vse do smrti prikazoval na tisoče videoposnetkov o žalosti, brezupu, osamljenosti in samomoru. Dokument, ki ga je TikTok pripravil leta 2023, je nastal potem, ko je Bloomberg podjetju zastavil vprašanja o tem, zakaj je algoritem Chaseevemu računu še leto po njegovi smrti neprestano priporočal takšne vsebine.

Eksperiment za merjenje dnevne aktivnosti

TikTokov lastni dokument ugotavlja, da se zaščita pred t. i. filtrirnimi mehurčki škodljivih vsebin pri Chaseevem računu "ni aktivirala načrtno". Podjetje je eksperiment opisalo kot iskanje "občutljivega ravnovesja" med varnostjo in merjenjem vpliva na DAU – število dnevno aktivnih uporabnikov – ter druge ključne kazalnike.

Z drugimi besedami, TikTok je varnostno funkcijo izključil tudi zato, da bi ugotovil, kako njena odsotnost vpliva na raven uporabe platforme. Dokument ne navaja, do katerih zaključkov je eksperiment privedel.

Senatorja zahtevala dokument, TikTok zavrnil

Republikanska senatorka Marsha Blackburn in demokratski senator Richard Blumenthal sta od TikToka zahtevala izročitev dokumenta o eksperimentu. Podjetje jima ga ni predalo in se je sklicevalo na sodne postopke, ki še potekajo. Dokument je nato v javnost prišel prek Bloomberga.

Na vprašanja, ki so ju senatorja zastavila v zvezi z algoritmičnim eksperimentom na mladoletnikih, TikTok ni odgovoril. Podjetje vztraja, da ne verjame, da njegova platforma povzroča samomor.

Wertherjev učinek in tveganje za mladostnike

Samomor je kompleksen pojav in iz posameznikovega vedenja na družbenem omrežju ni mogoče neposredno dokazati, da je točno določena vsebina povzročila njegovo smrt. Kljub temu izpostavljanje ranljivih posameznikov takšnim vsebinam ni brez tveganja.

V psihologiji in suicidologiji je že desetletja znan t. i. Wertherjev učinek oziroma pojav samomorilnega posnemanja. Gre za pojav, pri katerem lahko izpostavljenost samomoru ali samomorilnemu vedenju pri nekaterih ranljivih ljudeh poveča tveganje za podobne misli in dejanja. Pri mladostnikih je skrb po oceni strokovnjakov še posebej velika. Med mehanizmi, s katerimi strokovnjaki pojasnjujejo takšen socialni prenos, so identifikacija z drugimi, socialno učenje in normalizacija.

Znanost tako že dolgo opozarja, da ponavljajoče se izpostavljanje ranljive osebe vsebinam o samomoru ni nevtralno – ne glede na trditve platform o neodgovornosti za izide posameznih uporabnikov.

Source: 24ur