Z badań Amnesty International wynika, że kanał „Dla Ciebie” na TikToku rozpowszechnia wśród młodych osób treści szkodliwe dla zdrowia psychicznego. W niektórych osobach informacje, które pojawiają się w tym komunikacie mogą wzbudzić silny dyskomfort i negatywne emocje.
- Badania przeprowadzone we współpracy z Algorithmic Transparency Institute i organizacją AI Forensics, w których wykorzystano zautomatyzowane konta wykazały, że po 5-6 godzinach na platformie prawie połowa proponowanych filmów była związana ze zdrowiem psychicznym i potencjalnie szkodliwa. To około 10 razy więcej niż na kontach użytkowników_użytkowniczek niezainteresowanych zdrowiem psychicznym.
- Syndrom „króliczej nory” pojawiał się jeszcze szybciej, gdy badacze własnoręcznie przeglądali filmy związane ze zdrowiem psychicznym sugerowane kontom „marionetkowym” udającym 13-letnich użytkowników_użytkowniczki w Kenii, na Filipinach i w USA. Między 3 a 20 minutą prowadzonych badań już ponad połowa filmów w kanale „Dla Ciebie” była związana ze zdrowiem psychicznym, a wiele polecanych filmów w ciągu jednej godziny romantyzowało czy normalizowało temat samobójstwa, a w wielu przypadkach nawet do niego zachęcało.
- Model biznesowy TikToka ma nieuczciwy charakter i nagradza zaangażowanie, aby utrzymać użytkowników_użytkowniczki i gromadzić coraz więcej danych na ich temat. Polityka ochrony użytkowników_użytkowniczek różni się w różnych regionach świata.
System rekomendacji treści na TikToku i sam model biznesowy tej platformy stwarza zagrożenie dla młodych użytkowników_użytkowniczek, wspierając treści dotyczące depresji i samobójstw, które mogą negatywnie wpływać na i tak istniejące problemy związane ze zdrowiem psychicznym wśród dzieci i młodzieży – wynika z dwóch raportów opublikowanych dziś przez Amnesty International.
Oba raporty – Pogrążeni w ciemności: Jak TikTok zachęca do samookaleczeń i myśli samobójczych oraz Jestem narażony: Złapany w TikTokową sieć inwigilacji – pokazują nadużycia, jakich doświadczają młodzi użytkownicy_młode użytkowniczki TikToka oraz techniki wpisane w system rekomendacji i model biznesowy tej platformy, które te nadużycia powodują.
Raporty powstały na podstawie wspólnej pracy Amnesty International, Algorithmic Transparency Institute (ATI), National Conference on Citizenship (NCoC) i AI Forensics.
– Badania ujawniają manipulacyjne i uzależniające praktyki zaprojektowane przez TikTok, które mają na celu utrzymanie zaangażowania użytkowników_uzytkowniczek tak długo, jak to możliwe. Pokazują również, że system rekomendacji treści platformy oparty na algorytmach, któremu przypisuje się szybki globalny rozwoju tego medium, naraża dzieci i młode osoby borykające się z problemami natury psychicznej na poważne ryzyko doświadczenia krzywdy – powiedziała Lisa Dittmer, badaczka Amnesty International.
Kanał „Dla Ciebie”
Badania przeprowadzono przy użyciu ponad trzydziestu kont, które udawały 13-latków w Kenii i USA, aby zmierzyć wpływ systemu rekomendacji TikToka na młodych użytkowników_użytkowniczki. Dodatkowo badacze i badaczki własnoręcznie prowadzili symulację, która obejmowała po jednym koncie w Kenii, na Filipinach i w USA.
Raport Pogrążeni w ciemności: Jak TikTok zachęca do samookaleczeń i myśli samobójczych szczegółowo opisuje, w jaki sposób TikTok dąży do tego, aby przyciągnąć i zatrzymać uwagę młodych użytkowników_użytkowniczek, co może skutkować pogłębieniem problemów dotyczących zdrowia psychicznego takich jak depresja, lęk i samookaleczenia.
„Dla Ciebie” na TikToku to wysoce spersonalizowany kanał filmów dobranych na podstawie algorytmów tak, żeby jak najbardziej pasowały do zainteresowań i zaangażowania użytkownika_użytkowniczki.
Badania wykazały, że po 5-6 godzinach na platformie prawie połowa proponowanych filmów była związana ze zdrowiem psychicznym i potencjalnie szkodliwa. To około 10 razy więcej niż na kontach użytkowników_użytkowniczek niezainteresowanych zdrowiem psychicznym.
Syndrom „króliczej nory” pojawiał się jeszcze szybciej, gdy badacze własnoręcznie przeglądali filmy związane ze zdrowiem psychicznym sugerowane kontom „marionetkowym” udającym 13-letnich użytkowników_użytkowniczki w Kenii, na Filipinach i w USA.
Między 3 a 20 minutą prowadzonych badań już ponad połowa filmów w kanale „Dla Ciebie” była związana ze zdrowiem psychicznym, a wiele polecanych filmów w ciągu jednej godziny romantyzowało czy normalizowało temat samobójstwa, a wielu przypadkach nawet do niego zachęcało.
Zaprojektowany, aby uzależniać
Dyskusje w grupach fokusowych, wywiady i informacje z kont udających dzieci i młodzież z Kenii, Filipin i USA, a także dane z badań dotyczących szkodliwości mediów społecznościowych i zdrowia publicznego ujawniają, w jaki sposób zaprojektowanie platformy TikTok zachęca do niezdrowego korzystania z aplikacji.
Luis, 21-letni student studiów licencjackich w Manili, u którego zdiagnozowano chorobę afektywną dwubiegunową, opowiedział Amnesty International o swoich doświadczeniach z kanałem „Dla Ciebie” na TikToku.
To królicza nora i wszystko zaczyna się od jednego filmu. Jeśli jeden film jest w stanie przyciągnąć twoją uwagę, nawet jeśli ci się nie podoba, zostanie wyświetlony następnym razem, gdy włączysz TikToka, a ponieważ wydaje ci się znajomy, oglądasz go ponownie, a następnie częstotliwość jego wyświetlania w twoim kanale rośnie wykładniczo – powiedział Luis.
Kiedy oglądam smutne wideo, do którego mogę się odnieść, nagle cały mój kanał „Dla Ciebie” jest smutny. To wpływa na moje samopoczucie.
Francis, 18-letni student z prowincji Batangas na Filipinach
Inna osoba z grupy fokusowej mówi: Treści, które oglądam prowadzą do tego, że zaczynam się zastanawiać, na przykład filmy, w których ktoś jest chory lub samodiagnozuje się. Wpływa to na moją psychikę i sprawia, że czuję się, jakbym miał te same objawy, co też powoduje zaniepokojenie. I nawet ich nie oglądam, po prostu pojawiają się w moim kanale.
Joyce, 21-latka z Filipin, powiedziała: Usunęłam go [TikToka] na jakiś czas, ponieważ byłam od niego bardzo uzależniona… Spędzałam tam wiele godzin.
Sieć nadzoru
Raport Jestem narażony: Złapany w TikTokową sieć inwigilacji pokazuje sposób, w który naruszające prawo praktyki gromadzenia danych przez platformę TikTok podtrzymują szkodliwe praktyki angażowania użytkowników_użytkowniczek.
Badania Amnesty International pokazują, że model biznesowy TikToka ma nieuczciwy charakter i nagradza zaangażowanie, aby utrzymać użytkowników_użytkowniczki i gromadzić coraz większą ilość danych na ich temat. TikTok stosuje swoje zabezpieczenia tylko w niektórych częściach świata, pozostawiając dzieci i młodzież jeszcze bardziej narażone na gromadzenie danych niż inne grupy społeczne.
– TikTok celuje w użytkowników_użytkowniczki, w tym dzieci, stosując bardziej inwazyjne praktyki gromadzenia danych w tych częściach świata, w których ludzie mają mniej praw związanych z ochroną danych na mocy lokalnych przepisów i regulacji – co oznacza, że dzieci mieszkające w krajach o słabych regulacjach, w tym w wielu krajach globalnej większości, są narażone na większe nadużycia ich prawa do prywatności – powiedziała Lauren Armistead, zastępczyni dyrektora programowego Amnesty Tech.
TikTok musi szanować prawa wszystkich młodych użytkowników_użytkowniczek, nie tylko tych w Europie i zakazać wszelkich ukierunkowanych reklam skierowanych do osób poniżej 18 roku życia na całym świecie.
TikTok musi również zaprzestać domyślnej hiperpersonalizacji kanału „Dla Ciebie”, a zamiast tego pozwolić osobom samodzielnie wybierać treści, które budują ich kanał, w oparciu o ich świadomą zgodę, tylko jeśli chcą spersonalizowanego kanału.
Amnesty International wzywa platformę TikTok do podjęcia pilnych kroków w celu zmiany modelu biznesowego na taki, który respektuje prawa i ustanowienie regulacji do ochrony i realizacji praw dzieci i młodzieży.
Najlepszym sposobem ochrony dzieci przed nadużywaniem ich danych osobowych w Internecie jest wprowadzenie przez rządy prawnego zakazu publikacji wszelkich ukierunkowanych reklam opartych o inwazyjną inwigilację i gromadzenie danych.
W odpowiedzi na nasze badanie, TikTok pokazał nam swoje wytyczne dla społeczności, które określają, jakie rodzaje treści są zakazane, a tym samym, jeśli zostaną zgłoszone lub w inny sposób zidentyfikowane, są usuwane z platformy. Obejmują one zakaz treści „pokazujących, promujących lub dostarczających informacji dotyczących samobójstwa i samookaleczenia oraz związanych z nimi wyzwań, zakładów, gier i paktów”, „pokazujących lub promujących mistyfikacje dotyczące samobójstwa i samookaleczenia” oraz „udostępniających plany samobójstwa i samookaleczenia”.
TikTok oświadczył, że jest w trakcie opracowywania „procesu dotyczącego należytej staranności w zakresie praw człowieka, który będzie obejmował przeprowadzanie okresowej ewaluacji wpływu na prawa człowieka”. Firma nie podała szczegółów dotyczących konkretnych zagrożeń dla praw człowieka, dzieci i młodych użytkowników_użytkowniczek, które zidentyfikowała. Fakt, że TikTok nie posiada obecnie polityki dotyczącej należytej staranności w zakresie praw człowieka, jest wyraźnym zaniedbaniem odpowiedzialności firmy za poszanowanie praw człowieka.
Kontekst
Nowe dwa raporty są uzupełnieniem zebranych danych i informacji przedstawionych w poprzednich raportach badawczych Amnesty International. W raporcie Surveillance Giants ujawniono, że model biznesowy Facebooka i Google jest niezgodny z prawem do prywatności i stanowi zagrożenie dla szeregu innych praw, w tym wolności opinii i wypowiedzi, wolności myśli oraz prawa do równości i niedyskryminacji.
Raporty Amnesty International na temat Mjanmy: Okrucieństwo społeczne: Meta i prawo do zadośćuczynienia dla Rohingya oraz Etiopii: Niepowodzenia Mety przyczyniły się do nadużyć wobec społeczności Tigrayan podczas konfliktu w północnej Etiopii ujawniają, w jaki sposób model biznesowy platformy Facebook oparty na zaangażowaniu może mieć niszczycielski wpływ poprzez wzmacnianie treści ekstremistycznych, które podżegają do przemocy, nienawiści i dyskryminacji, ostatecznie przyczyniając się do poważnych naruszeń i nadużyć w obszarze praw człowieka.
Wszystkie raporty stanowią wkład w rosnącą bazę dowodową globalnej kampanii Amnesty International na rzecz odpowiedzialności korporacyjnej i zadośćuczynienia za naruszenia praw człowieka związane z opartym na inwigilacji modelem biznesowym Meta, Google, TikTok i innych cyfrowych gigantów.
Więcej informacji o kampanii na stronie https://www.amnesty.org/en/latest/news/2023/11/tiktok-risks-pushing-children-towards-harmful-content/
Raport: Pogrążeni w ciemności: jak TikTok zachęca do samookaleczeń i myśli samobójczych (j.angielski)
Raport: Jestem narażony: złapany w TikTokową sieć inwigilacji (j.angielski)